BBC/ Por qué el jefe de OpenAI pide que confiemos en la empresas de IA a pesar de que el mundo «tiene razón en sentir miedo»
(BBC/ Kali Hays y Laura Cress).- Sam Altman, el director ejecutivo de OpenAI, la empresa creadora de ChatGPT, señaló que la población debería confiar más en las compañías de inteligencia artificial para garantizar que esta tecnología sea segura, en medio de la creciente preocupación pública por sus riesgos.
En los últimos días ha surgido una gran preocupación por los alcances de la Inteligencia Artificial
«El mundo debería confiar en que vamos a hacer lo correcto porque es lo correcto y porque comprendemos la magnitud de esto», afirmó Altman durante una conferencia en San Francisco.
Altman reconoció que la preocupación de la gente respecto a la inteligencia artificial está justificada, dado que las capacidades de estas herramientas han avanzado con gran rapidez.
Los críticos sostienen que no se puede confiar en que las empresas se autorregulen.
Entre quienes reclaman una mayor supervisión de la IA figuran personajes de ambos espectros ideológicos como el senador progresista Bernie Sanders y Steve Bannon, exasesor y seguidor del presidente estadounidense Donald Trump.
El propio Trump ha criticado los llamados a imponer mayores salvaguardias a esta tecnología en rápida evolución, calificando de «engaño» los temores sobre la seguridad de la IA.
Según Trump, las únicas «barandillas de protección» necesarias para la inteligencia artificial son un presidente «fuerte e inteligente».
Las declaraciones de Altman se produjeron durante una intervención en la conferencia anual organizada por la empresa de software Salesforce.
«No hace falta tanta imaginación como antes para imaginar cómo esto podría salir mal», reconoció y admitió: «Creo que el mundo tiene razón al tener miedo».
A alta velocidad
Los propios líderes de la industria de la IA han admitido que podría resultar difícil regular una tecnología que cambia a tal velocidad.
En una entrevista concedida a Axios y publicada el 3 de septiembre, Altman señaló que esperaba que el Congreso estableciera un «marco básico» para la IA avanzada tras su comparecencia de 2023, pero eso aún no ha ocurrido.
Asimismo, sugirió que los legisladores han tenido dificultades para seguir el ritmo de la tecnología y regular sin «ralentizar la innovación».
Es poco probable que el Congreso de Estados Unidos apruebe en el corto plazo una nueva legislación sobre seguridad en IA, a pesar de que los legisladores regresaron de su receso de verano el lunes.
No existe consenso dentro de ninguno de los dos grandes partidos estadounidenses sobre cómo debería llevarse a cabo una regulación, y además la Cámara de Representantes volverá a entrar en receso al final de esta semana de cara a las elecciones legislativas de mediados de mandato de principios de noviembre.
Las declaraciones de Altman del martes fueron las primeras que realizó públicamente desde que se viralizara la semana pasada una publicación de un investigador que abandonó la empresa de IA Anthropic.
El investigador afirmó que la inteligencia artificial podría «matar a todos los seres humanos» antes de que termine la década si no se establecen controles.
Un pequeño grupo de ejecutivos y expertos del sector también respondió indicando que compartía esa evaluación, aunque sin explicar cómo habían llegado a esa conclusión ni de qué manera la IA podría llegar a provocar algo semejante.
Altman ha señalado que hay que confiar en las empresas que producen IA.
Tras las declaraciones de Altman, Mark Zuckerberg escribió en X que todas las empresas de inteligencia artificial tienen tanto la capacidad como los incentivos necesarios para «adoptar sus propias medidas» en materia de seguridad.
«Los laboratorios afrontan una responsabilidad significativa si sus modelos causan daños, por lo que también tienen un fuerte incentivo para evitarlo», añadió.
¿Alinearse con los humanos?
Según el director ejecutivo de Meta, «cualquier laboratorio que no se centre en la alineación quedará rezagado».
La alineación es un campo de investigación que busca incorporar a la IA principios e ideas éticas humanas. En otras palabras, pretende mantenerla alineada con los valores de las personas.
Algunas figuras políticas han rechazado la idea de que las empresas de IA sean las responsables de autorregularse.
Bernie Sanders afirmó que las decisiones sobre inteligencia artificial han quedado en manos de «un puñado de las personas más ricas del mundo», mientras que Steve Bannon sostuvo que el público no puede confiar en que los oligarcas tecnológicos se regulen a sí mismos.
El senador progresista Bernie Sanders ha propuesto que la IA sea regulada por el gobierno.
Por su parte, Jensen Huang, director ejecutivo de Nvidia, declaró en la misma conferencia el martes que deberían ser las empresas de IA quienes decidan si se lanzan nuevas versiones de la tecnología y no agentes externos.
«No necesitamos nuevas leyes ni regulaciones», afirmó, añadiendo que no debería plantearse una «falsa disyuntiva» entre la velocidad de la innovación y la seguridad de los productos de IA.
Nvidia es actualmente la empresa más valiosa del mundo por capitalización bursátil, impulsada por el enorme crecimiento de la demanda de su hardware.
Huang también argumentó que la seguridad es un problema de ingeniería y que las compañías deberían hacer una pausa si pierden la confianza en un producto.
Las recientes advertencias surgidas desde dentro de la propia industria han intensificado el escrutinio sobre el desarrollo de la inteligencia artificial, lo que llevó al director ejecutivo de Anthropic, Dario Amodei, a pedir una desaceleración del ritmo de desarrollo de la IA y a instar a los gobiernos a regular el sector.
Su publicación fue respaldada por Altman; el cofundador de Google DeepMind, Demis Hassabis, y Elon Musk.
«La autorregulación es el camino»
Sin embargo, para el martes más líderes de la industria comenzaban a manifestar su apoyo a la autorregulación en lugar de una mayor intervención gubernamental.
Altman afirmó que las empresas de IA son capaces de regularse por sí mismas.
«Lo haremos bien», aseguró,
«Si no logramos mantener la alineación y la seguridad por delante de las capacidades de esta tecnología, entonces es en ese momento en que debemos reducir el ritmo o detenernos», añadió.
Pero Yoshua Bengio, uno de los pioneros de la inteligencia artificial moderna, escribió en la red social X que se necesitan «esfuerzos ambiciosos fuera del sector con ánimo de lucro» para «evitar los peores riesgos de la IA».
Organizaciones alrededor del mundo piden que se den muestras de que se puede controlar la Inteligencia Artificial.
