"Vio una necesidad urgente de que los creadores y las personas tuvieran autonomía", afirmando que pueden crear avatares de IA para "amplificar su voz, no para reemplazarla".

Una nueva aplicación impulsada por inteligencia artificial que permite a los usuarios crear avatares interactivos de sus familiares fallecidos, cofundada por Calum Worthy, exalumno de Disney Channel, está generando reacciones negativas en las redes sociales, donde muchos usuarios califican la tecnología de distópica y la comparan con la serie de ciencia ficción “Black Mirror”.

Datos clave

Worthy, quien protagonizó la serie de Disney Channel “Austin & Ally”, publicó un anuncio de la aplicación 2wai en X a principios de esta semana, que desde entonces se ha vuelto viral, acumulando más de 22 millones de visualizaciones y miles de respuestas críticas.

En el anuncio, una mujer embarazada se comunica con un avatar generado por IA que se asemeja a su madre fallecida a través de la aplicación 2wai, mostrando las interacciones que el avatar tiene con la familia a medida que el hijo nace, crece y finalmente tiene sus propios hijos.

El final del anuncio muestra cómo la mujer creó el avatar de IA de su madre, que la aplicación aparentemente generó después de que la mujer filmara a su madre hablando y moviéndose durante tres minutos.

“Con 2wai, tres minutos pueden durar una eternidad”, declaró la compañía al final del anuncio, y Worthy dijo en su publicación que la compañía está “construyendo un archivo viviente de la humanidad” y que “los seres queridos que hemos perdido podrían ser parte de nuestro futuro”.

Forbes se ha puesto en contacto con 2wai para obtener comentarios.

Críticos principales

La publicación de Worthy con el anuncio solo obtuvo 6000 «me gusta», pero las numerosas críticas que tachaban la tecnología de inhumana atrajeron mucha más aceptación entre los usuarios de X. Un usuario afirmó que la aplicación es «objetivamente una de las ideas más malvadas imaginables», obteniendo 210 000 «me gusta». Otro usuario comentó de forma similar: «Que una antigua estrella de Disney Channel creara la cosa más malvada que he visto en mi vida no era lo que esperaba», consiguiendo 139 000 «me gusta». Un usuario obtuvo 12 000 «me gusta» calificando la aplicación de «demoníaca, deshonesta y deshumanizante», y declaró que jamás querría tener un avatar generado por IA en la aplicación porque «mi valor muere conmigo. No soy un p*** avatar». Otros usuarios sugirieron que la aplicación —que se puede descargar gratis, pero ofrece avatares premium y artículos digitales de pago— se lucra con el dolor y podría ser una forma poco saludable de afrontar la pérdida .

¿Por qué la gente compara 2wai con Black Mirror?

Algunos usuarios de redes sociales señalaron que la tecnología de 2wai se asemeja a un episodio de “Black Mirror”, una serie de ciencia ficción que suele mostrar las consecuencias negativas de la tecnología en sociedades futuristas y distópicas. “Esto era LITERALMENTE un episodio de Black Mirror, en serio, odio cuando la gente dice eso, pero es concretamente el episodio 1 de la segunda temporada”, comentó un usuario , recibiendo 28.000 “me gusta”. El episodio al que se refería, “Be Right Back”, trata sobre una mujer que crea una recreación generada por IA de su novio tras su muerte en un accidente de coche. Un usuario afirmó que el episodio de “Black Mirror” era “absolutamente trágico” y que no debería considerarse un “manual de instrucciones para el futuro”. Otras tecnologías de IA han sido comparadas con ese episodio, incluyendo una tecnología que Amazon presentó para su asistente virtual Alexa en 2022, que le permitiría imitar la voz de un familiar fallecido. “Si bien la IA no puede eliminar el dolor de la pérdida, sin duda puede hacer que sus recuerdos perduren”, declaró en aquel entonces Rohit Prasad, vicepresidente sénior de Amazon y científico jefe de Alexa .

¿Qué es 2wai y cómo funciona?

2wai lanzó una versión beta para iOS durante el verano. La empresa, cofundada por Worthy y el productor de cine Russell Geyser, quien funge como CEO, permite a los usuarios crear HoloAvatares, que según la compañía son capaces de mantener conversaciones en tiempo real con movimientos realistas y sincronización labial. En su lanzamiento, la aplicación incluía avatares pregenerados con los que los usuarios podían chatear, entre ellos una recreación de Worthy y un William Shakespeare generado por IA. 2wai afirma que los usuarios pueden crear su propio “gemelo digital” generando un avatar de sí mismos, o bien, generar avatares que se asemejen a sus amigos y familiares. Worthy ha presentado la aplicación como una forma para que actores y creadores controlen su propia imagen, declarando a Variety en junio que “vio una necesidad urgente de que los creadores y las personas tuvieran autonomía”, afirmando que pueden crear avatares de IA para “amplificar su voz, no para reemplazarla”. 2wai anunció en junio que había obtenido 5 millones de dólares en financiación inicial y que colabora con British Telecom, IBM y Globe Telecom.

Publicado originalmente por Forbes US.

Lea también: X lanza chats cifrados, pero algunos usuarios no están contentos