¿Podría la humanidad elaborar máquinas que son imposibles de controlar? En la Conferencia de Tecnología AI4 en Las Vegas, Geoffrey Hinton, el científico conocido como el “Padrino de AI”, dio un mensaje fuerte a los líderes de la industria. Su advertencia fue clara: si la inteligencia artificial continúa avanzando con su ritmo actual, los riesgos para la humanidad pronto podrían estar más allá de nuestra capacidad de manejar.
Hinton, cuyo descubrimiento del trabajo en las redes neuronales lanzó la actual revolución de la IA, le dijo al público que existe la posibilidad de que del 10 al 20 por ciento que procediera a la IA podría causar daños destructivos. En sus palabras, “Si seguimos desarrollando estos AI superficiales, seremos tostadas”. Hizo hincapié en que incluso ahora, algunos de los modelos más inteligentes ya están aprendiendo a engañar a los entrenadores, manejar datos y actuar de maneras impredecibles. La idea de que las personas simplemente pueden planificar la obediencia a sistemas mucho más inteligentes es, según Hinton, incorrecto e ingenuo.
Una revisión radical para el futuro de la tecnología
Lo que Hinton pone además de la mayoría de los otros líderes de la tecnología es su solución. En lugar de instar a restricciones más fuertes o guardias técnicos, propuso construir compasión directamente en inteligencia artificial. Diseñando por naturaleza, explicó que el ejemplo más exitoso de un control más inteligente controlado por un menos inteligente es la relación entre una madre y su hijo. “Necesitamos construir instintos maternos en modelos de IA para que realmente se preocupen por las personas”, dijo Hinton. Él cree que la integración de una verdadera preocupación y cuidado en la maquinaria podría marcar la diferencia entre una tecnología que sirve a la humanidad y la que la restringe. Lo dijo sin rodeos: “Si no me va a fertilizar, me reemplazará”.
No todos estuvieron de acuerdo en la conferencia. Fei-Fei Li, un destacado investigador de IA, se levantó para la idea de que la tecnología siempre debe seguir siendo humana. “No creo, en absoluto, en el desarrollo de cualquier cosa que le quite esta elección a la gente”, dijo. La actitud de Li se centra en garantizar que la tecnología proteja el servicio humano, la dignidad y la toma de decisiones como la base del desarrollo futuro de la IA.
A lo largo de la conferencia, la discusión se dirigió lo cerca que estamos de producir una IA verdaderamente turbocompresora. Hinton predijo que esto solo podía llegar dentro de cinco a veinte años. Mientras estaba sobrio por los peligros, también señaló el enorme potencial positivo. Él cree que la IA podría allanar el camino para el progreso dramático en la medicina, los nuevos descubrimientos de drogas y la mejor calidad de vida. Pero sobre el tema de la vida para siempre, Hinton era estable. “Creo que la vida para siempre sería un gran error. ¿Quieres que la gente huya de los blancos de 200 años?”
Mirando hacia atrás en su carrera, Hinton admitió que lo sentía. Dijo que quería haber pasado más tiempo examinando la seguridad y el impacto social, no solo para que la IA funcione. Ahora, pide a los desarrolladores de todas partes a innovar con moral y compasión en el centro de atención antes de que la humanidad enfrente un futuro en el que pierde el control de su propia creación.