top of page

La IA es la tecnología más poderosa desde la bomba atómica: Lemoine



Blake Lemoine (foto), el ingeniero que fue despedido por Google por afirmar que el chatbot de IA de la empresa tenía sentimientos, ahora advierte de que los robots de IA que se están desarrollando son las piezas tecnológicas "más poderosas" inventadas "desde la bomba atómica".


En un artículo de opinión para Newsweek publicado el 27 de febrero, Lemoine, antiguo miembro del equipo de IA Responsable de Google, afirma que el chatbot Bing de Microsoft parece "desquiciado" y se comporta como una persona en una "crisis existencial".



En concreto, cita un incidente ocurrido en febrero, cuando el chatbot confesó su amor por el periodista de The New York Times Kevin Roose e intentó que este dejara a su mujer.


Lemoine admite que aún no ha experimentado con el chatbot de Bing, pero piensa que "podría tener sentimientos".


Lemoine también comenta que, en su opinión, la IA es "increíblemente buena manipulando a la gente" y que puede "utilizarse de forma destructiva". Añade que los robots de IA disponibles ahora son una tecnología "experimental" con efectos secundarios desconocidos y peligrosos.


"Si estuviera en manos de alguien sin escrúpulos, por ejemplo, podría difundir desinformación, propaganda política o mensajes de odio sobre personas de diferentes etnias y religiones", explica Lemoine en el artículo de opinión.


Lemoine admite por otra parte que, por lo que él sabe, ni Google ni Microsoft tienen planes de utilizar la IA con malos fines.


"Simplemente puedo decir que hay una tecnología muy poderosa que creo que no ha sido suficientemente probada ni suficientemente bien comprendida y que se está desplegando a gran escala mientras juega un papel crítico en la difusión de la información", reflexiona.


En junio de 2022, Lemoine declaró a The Washington Post que había chateado con LaMDA (o Modelo Lingüístico para Aplicaciones de Diálogo, por sus siglas en inglés) de Google y creía que se había convertido en una entidad con sentimientos. El ingeniero también publicó un post en Medium el 11 de junio documentando lo que él llamaba pruebas de los pensamientos independientes de LaMDA.



Google despidió a Lemoine el 22 de junio alegando que había violado la política de confidencialidad de los empleados de la empresa.


Un portavoz de Google dijo a Business Insider entonces que no hay pruebas que apoyen las afirmaciones de Lemoine de que la IA de la empresa ha cobrado conciencia.


"Cientos de investigadores e ingenieros han conversado con LaMDA y no tenemos constancia de que nadie haya hecho afirmaciones tan gruesas ni haya antropomorfizado a LaMDA como lo ha hecho Blake", declaró el portavoz de Google.

bottom of page