¿Qué pasaría si ves que tu identidad fue suplantada por una imagen generada con inteligencia artificial? El actor Tom Hanks informó que se creó un deepfake suyo sin su autorización para un anuncio publicitario. El deepfake corresponde a un vídeo, una imagen o un audio generado con inteligencia artificial que imita la apariencia y el sonido de las personas. Los programas de IA capaces de generar medios a través de comandos irrumpieron a finales del año pasado y hoy estamos viendo sus consecuencias. Sobre esto, hoy en Palabra Que Es Noticia conversamos con César Ravello, neurocientífico del centro basal ciencia y vida de la Universidad San Sebastián.
¿Qué está pasando con la IA en este sentido?
“Creo que se está masificando. Hoy cualquiera puede usarla para crear este tipo de imágenes. Antes solo los estudios de Hollywood podían pagarla, pero ahora es más asequible con cualquier computador”, señala César Ravello
¿Qué puede generar?
“Se graba un video con una persona que se parezca a la persona que se quiera imitar, y luego se reemplaza su rostro”, indica el neurocientífico.
¿Cuál es la diferencia con la edición que se hacía antes?
“La diferencia está en que el proceso ahora es mucho más automatizado. En IA funcionan así. Los resultados dependen. En la edición más manual se requiere más elementos. Ahora, la IA lo hace automáticamente y sobrepone sorbe cada cuadro dle video la imagen de lacara que se quiere suplantar. Se liberan programas y se hacen variantes”, afirma César Ravello.
¿Hacia dónde va la Inteligencia Artificial?
“El avance ha sido tan acelerado que nos estamos quedando atrás con el poder rayarle la cancha para ponerle límites. Podemos generar imagen y sonido, también música, revivir actores muertos. Todo en el marco audiovisual, ero ahora también está el Chat GPT para textos. Está llegando a todas partes. Y a veces se hace más difícil distinguir entre algo generado por IA y lo real”, asegura el neurocientífico.
¿Cómo vamos a saber si las cosas son falsas o verdaderas?
“Es complicado. Los programas de IA están entrenados para ser capaces de engañar. Se crea dos inteligencias, una que crea imagen y sonido, y otra si distingue si es verdadera o falsa, con eso aprende a discriminar, pero la tora empieza a engañar a la otra. Por eso, nosotros mismos perdemos la capacidad de distinguir. Con estos avances, se hace difícil hacerlo. Muchos opinan que esto debería legislarse, pero como la tecnología ya está disponible se hace difícil echar marcha atrás. El que quiera quiera darle mal uso puede seguir haciéndolo”. Comenta César Ravello.
El periodismo ha tenido que ir generando un fact check para esto, por ejemplo en el conflicto Israel Hamás. ¡Acaso no habrá un sistema para poder pilarlo?
“Podría pasar eso. Y con las RRSS con noticias falsas también pasa. Muchas veces, sucesos que ocurrieron hace años resurgen en imágenes. Ya no es el problema si podemos distinguir o no, sino en que toda pierde credibilidad”, reflexiona el neurocientífico.
Pareciera que los europeos están avanzando en regular…
“Sin embargo, los deepfakes no estarían contemplados. Hay que prepararse para esto”, puntualiza César Ravello.
Lo que vimos en “Terminator”, que las máquinas piensen por si mismas, ¿es factible?
“No, todavía estamos lejos de eso. Ahora, la cosa no depende tanto de las máquinas sino cuáles tareas les asignamos. Para hacer muchas cosas que aplicamos a la IA no es necesario que sean inteligencia, solo que parezcan tenerla como en el Chat GPT. Si conversas con Chat GPT pareciera que conversas con una persona, pero simplemente repite y genera lenguaje estadísticamente”, comenta el neurocientífico del centro basal ciencia y vida de la Universidad San Sebastián.
¿Cómo no es regulado el deepfake?
“En el caso de la pornografía sí está cubierto porque se maneja como si fuesen videos reales difundidos sin consentimiento, eso se acoge ahí. En el caso de Tom Hanks, lo publicitario, eso no está protegido quién es el dueño de tu imagen. No está establecido. Hay contratos de por medio, y un poco lo que están peleando los actores es el quién es el dueño de la imagen” concluye en Palabra Que Es Noticia César Ravello.