1 00:00:02,570 --> 00:00:08,830 Speaker 1: Ciudadanos informados, informando. Este es el podcast de Iñaki Manet. 2 00:00:00,000 --> 00:00:14,210 Speaker 1: 88.9 Noticias. Información que sirve. Tráfico y clima cada 15 minutos. 3 00:00:16,050 --> 00:00:19,850 Speaker 1: Vamos a platicar con mi compañero René Ponce. Fíjense que 4 00:00:19,890 --> 00:00:24,070 Speaker 1: este es un tema delicado porque la inteligencia artificial ha 5 00:00:24,090 --> 00:00:27,700 Speaker 1: avanzado muy rápido y cada vez está más presente en 6 00:00:27,840 --> 00:00:32,170 Speaker 1: nuestra vida cotidiana. pero junto con sus beneficios también están 7 00:00:32,250 --> 00:00:36,699 Speaker 1: creciendo los riesgos. Y en esta ocasión, pues, René nos 8 00:00:36,720 --> 00:00:40,320 Speaker 1: va a platicar un poco sobre el uso indebido de 9 00:00:40,760 --> 00:00:46,030 Speaker 1: la inteligencia artificial que ya está encendiendo de veras muchas alertas.¿ 10 00:00:46,490 --> 00:00:48,960 Speaker 1: Qué tal, René?¿ Cómo estás? Muy buenas tardes. Te escuchamos. Adelante. 11 00:00:49,360 --> 00:00:52,000 Speaker 2: Qué tal, Memo? Efectivamente, pues, el uso de herramientas de 12 00:00:52,040 --> 00:00:56,020 Speaker 2: inteligencia artificial para crear y manipular imágenes se está convirtiendo 13 00:00:56,040 --> 00:00:58,710 Speaker 2: en una nueva amenaza digital. Y es que no hablamos 14 00:00:58,770 --> 00:01:02,050 Speaker 2: de filtros o retoques, sino de la generación de imágenes 15 00:01:02,170 --> 00:01:06,550 Speaker 2: íntimas o sexualizadas de personas reales sin autorización. A esto 16 00:01:06,590 --> 00:01:09,940 Speaker 2: se le conoce como desnudez digital y su crecimiento ha 17 00:01:10,020 --> 00:01:14,220 Speaker 2: sido muy rápido. La empresa de ciberseguridad ESET advierte que 18 00:01:14,240 --> 00:01:18,000 Speaker 2: este fenómeno ya está afectando directamente la privacidad, la reputación. 19 00:01:18,530 --> 00:01:20,940 Speaker 2: y la seguridad de las víctimas, porque una vez que 20 00:01:21,000 --> 00:01:25,360 Speaker 2: el contenido circula, detenerlo es muy complicado. Platicé con David González, 21 00:01:25,440 --> 00:01:30,940 Speaker 2: investigador de seguridad informática, y considera que hace falta mayor regulación. Escuchemos. 22 00:01:31,160 --> 00:01:33,540 Speaker 3: Aquí lo que hace falta más bien es un control 23 00:01:33,600 --> 00:01:37,880 Speaker 3: de seguridad, una moderación del contenido, literalmente empezar a notificar 24 00:01:37,940 --> 00:01:41,520 Speaker 3: que los usuarios consientan que se utilicen sus imágenes, sin embargo, 25 00:01:41,540 --> 00:01:43,199 Speaker 3: ahí están todavía en el ego. 26 00:01:43,360 --> 00:01:46,660 Speaker 1: Fíjate, René, final de cuentas, René, eso todavía no está regulado, 27 00:01:46,680 --> 00:01:50,419 Speaker 1: y aunque ya se había presentado, Tiempo atrás, ahorita ya 28 00:01:50,500 --> 00:01:53,060 Speaker 1: esto es mucho mayor, ¿verdad?, con el uso de esta 29 00:01:53,120 --> 00:01:55,880 Speaker 1: famosa inteligencia artificial. Así es, Memo, y es 30 00:01:55,960 --> 00:01:58,620 Speaker 2: que un caso reciente ha encendido los focos rojos a 31 00:01:58,780 --> 00:02:02,460 Speaker 2: nivel internacional. Es el de GROC, esta inteligencia artificial que 32 00:02:02,480 --> 00:02:05,360 Speaker 2: está integrada en la misma red social. de ex antes 33 00:02:05,470 --> 00:02:09,240 Speaker 2: Twitter y a diferencia de otros sistemas, esta IA funciona 34 00:02:09,380 --> 00:02:12,480 Speaker 2: dentro de una plataforma masiva y puede acceder a imágenes 35 00:02:12,600 --> 00:02:16,360 Speaker 2: públicas casi en tiempo real con sus usuarios. Un análisis 36 00:02:16,460 --> 00:02:20,160 Speaker 2: independiente incluso reveló que durante un periodo de 24 horas, es decir, 37 00:02:20,200 --> 00:02:23,400 Speaker 2: un día, la cuenta oficial de esta herramienta llegó a 38 00:02:23,460 --> 00:02:29,720 Speaker 2: generar alrededor de 6.700 imágenes por hora clasificadas como sexualmente sugerentes 39 00:02:29,750 --> 00:02:34,370 Speaker 2: o nudificadas. El dato resulta más preocupante cuando se compara 40 00:02:34,430 --> 00:02:38,110 Speaker 2: con el promedio de los cinco principales sitios que se 41 00:02:38,150 --> 00:02:43,450 Speaker 2: dedican a deepfakes sexuales que en conjunto producen cerca de 79 42 00:02:43,310 --> 00:02:47,470 Speaker 2: imágenes por hora, es decir, una diferencia abismal. enorme en 43 00:02:47,850 --> 00:02:51,050 Speaker 2: la velocidad de creación de este tipo de contenido. David González, 44 00:02:51,110 --> 00:02:54,899 Speaker 2: investigador de seguridad informática de ESET, dice lo siguiente. 45 00:02:55,190 --> 00:02:57,640 Speaker 3: La ley a veces se queda dos pasos atrás. Aquí 46 00:02:57,820 --> 00:03:01,060 Speaker 3: lo ideal es que los reguladores también se junten con 47 00:03:01,100 --> 00:03:04,300 Speaker 3: las empresas tecnológicas y sobre todo las que buscan la 48 00:03:04,380 --> 00:03:07,420 Speaker 3: parte de ciberseguridad, de protección de datos, que hacen a 49 00:03:07,440 --> 00:03:10,440 Speaker 3: la altura las leyes de las tecnologías que están emergiendo. 50 00:03:10,700 --> 00:03:13,260 Speaker 2: Y bueno, sabemos Memo que en México este tema no 51 00:03:13,300 --> 00:03:17,079 Speaker 2: es nuevo, desde 2023 Se documentaron casos graves como el del 52 00:03:17,139 --> 00:03:21,220 Speaker 2: exalumno del Politécnico acusado de manipular con IA imágenes de 53 00:03:21,330 --> 00:03:26,050 Speaker 2: compañeras y de crear contenido sexual falso. Investigaciones reportaron que 54 00:03:26,110 --> 00:03:30,540 Speaker 2: decenas de miles de archivos de fotografías e imágenes Fueron 55 00:03:30,620 --> 00:03:33,790 Speaker 2: alterados en el país esta llamada Ley Olimpia, pues ya 56 00:03:33,870 --> 00:03:37,710 Speaker 2: sanciona la difusión de contenido íntimo sin consentimiento, incluso cuando 57 00:03:37,750 --> 00:03:43,620 Speaker 2: es material manipulado o generado digitalmente. Además, entre 2024 y 2025, varios 58 00:03:43,720 --> 00:03:47,060 Speaker 2: estados han reforzado en nuestro país sus códigos penales para 59 00:03:47,140 --> 00:03:51,240 Speaker 2: castigar este tipo de conductas con multas y prisión. Para 60 00:03:51,400 --> 00:03:55,610 Speaker 2: David González, investigador en seguridad informática, la ley... en esta 61 00:03:55,670 --> 00:03:59,000 Speaker 2: materia debe actualizarse de manera constante, es lo que dice 62 00:03:59,210 --> 00:04:02,090 Speaker 3: Obviamente la ley Olimpia no es perfecta, le hace falta 63 00:04:02,110 --> 00:04:04,970 Speaker 3: ser mejor pulida. También lo que tendrán que empezar a 64 00:04:04,990 --> 00:04:07,750 Speaker 3: decidir también es la cuestión de qué sanciones le van 65 00:04:07,830 --> 00:04:11,170 Speaker 3: a dar dependiendo de la gravedad. Las consecuencias de generar 66 00:04:11,210 --> 00:04:14,589 Speaker 3: este tipo de contenido son de manera inmediata, pero para 67 00:04:14,650 --> 00:04:18,620 Speaker 3: que una persona se pueda recuperar pueden pasar meses, años. 68 00:04:18,640 --> 00:04:21,260 Speaker 3: Eso es lo que también deberían de considerar en la 69 00:04:21,339 --> 00:04:22,600 Speaker 3: parte de la regulación. 70 00:04:22,900 --> 00:04:25,620 Speaker 2: Y bueno, hay recomendaciones para evitarse víctima de esto, como 71 00:04:25,720 --> 00:04:28,980 Speaker 2: no usar IA para crear imágenes de personas reales sin permiso, 72 00:04:29,320 --> 00:04:33,180 Speaker 2: limitar la exposición de fotos personales en redes, verificar imágenes 73 00:04:33,240 --> 00:04:37,170 Speaker 2: virales antes de compartirlas y sobre todo, Memo, denunciar contenido 74 00:04:37,270 --> 00:04:38,789 Speaker 2: íntimo no autorizado. 75 00:04:39,150 --> 00:04:42,570 Speaker 1: Hijo, de veras, es bien complicado. Ojalá se regule fuerte 76 00:04:42,589 --> 00:04:45,930 Speaker 1: esta situación o de lo contrario, mucha gente va a 77 00:04:45,970 --> 00:04:50,200 Speaker 1: sufrir estas consecuencias.¿ Por qué? Porque si quieren desprestigiarte, van 78 00:04:50,230 --> 00:04:52,150 Speaker 1: a agarrar una imagen tuya, la van a modificar y 79 00:04:52,210 --> 00:04:53,910 Speaker 1: con eso es más que suficiente. En lo que son 80 00:04:53,970 --> 00:04:56,909 Speaker 1: peras o manzanas, sabes la verdad o no, tu imagen 81 00:04:56,930 --> 00:05:00,150 Speaker 1: va a haber sido dañada. Ojalá, de veras, no lleguemos 82 00:05:00,630 --> 00:05:04,570 Speaker 1: a estos extremos. Muchísimas gracias, René, por esta información. Abrazo, Memo, 83 00:05:04,610 --> 00:05:07,000 Speaker 1: estamos pendientes. Igualmente te mando un fuerte abrazo. Ahí lo 84 00:05:07,060 --> 00:05:09,920 Speaker 1: tiene usted, de veras. Hay que tener mucho cuidado con 85 00:05:09,940 --> 00:05:13,420 Speaker 1: la inteligencia artificial cuando le dan un mal uso muchas 86 00:05:13,460 --> 00:05:14,039 Speaker 1: de las personas.