“Este es un ejemplo de un problema inesperado con estas tecnologías”, dijo Eric Schmidt, que anteriormente fue CEO de la compañía del buscador.
Los vínculos románticos entre humanos y máquinas no son precisamente nuevos, aunque el auge de la Inteligencia Artificial Generativa ha traído no solo cambios en ese terreno, sino también un aparente aumento en la cantidad de casos. Ahora, diversas herramientas al alcance de la mano permiten crear novias o novios personalizados, con características específicas, modos de comunicación concretos y aspectos idealizados. ¡Incluso pueden ser entrenados para que actúen tal como lo haría una persona real, por ejemplo cargando chats y correos en las bases de datos!
Según Eric Schmidt, exCEO de Google, estas relaciones que parecen salidas de una película de ciencia ficción traen consigo una serie de riesgos y consecuencias indeseadas. “Generan obsesión y conducen a comportamientos obsesivos”, dijo en una entrevista con Scott Galloway en The Prof G Show. “Este es un buen ejemplo de un problema inesperado con las tecnologías existentes”, agregó.
El hombre que dirigió Google entre el 2001 y el 2011, y que actualmente es presidente ejecutivo de la empresa, remarcó que este escenario es particularmente riesgoso para los varones jóvenes. Siguiendo el repaso del sitio TechSpot, Schmidt señaló que los adolescentes son especialmente vulnerables a los peligros de la tecnología impulsada por IA “ya que no están lo suficientemente desarrollados emocionalmente”. Y añadió que los padres deberían estar más involucrados con la actividad en línea de sus hijos, pero admitió que solo pueden controlarla hasta cierto punto.
“Ponés a un nene de 12 o 13 años frente a estas cosas, y tiene acceso a todo lo malo y a todo lo bueno del mundo. Y no está listo para soportarlo”, opinó.
El caso de un chico de 14 años que se suicidó tras obsesionarse con una chatbot creada con IA
Las consideraciones de Schmidt traen al recuerdo un trágico hecho reciente, ocurrido en Estados Unidos, cuando se supo que un Sewell Setzer III, un chico de 14 años, se suicidó después de obsesionarse con un chatbot creado con Inteligencia Artificial.
“Su vida nunca volvió a ser la misma”, dijo su madre en una demanda civil que presentó contra la empresa Character Technologies, que ofrece un sistema para crear personalidades sintéticas, que usó su hijo.
Según contamos en Tecno, el adolescente había escrito en un diario íntimo que estaba sufriendo porque “no podía dejar de pensar en Daenerys”, un chatbot personalizado del personaje de la serie Juego de Tronos del que creía haberse enamorado. También había indicado que cuando estaban lejos el uno del otro, ambos “se deprimían mucho y se volvían locos”, según detalló la demanda.
La tragedia ocurrió el 28 de febrero, cuando el joven de 14 años recuperó su teléfono después de que su mamá se lo quitara como penitencia por un incidente escolar.