En el marco de la reciente conferencia anual Dreamforce celebrada en San Francisco, el director ejecutivo de OpenAI, Sam Altman, volvió a encender las alarmas sobre los riesgos inherentes al avance descontrolado de la inteligencia artificial. Sin embargo, su mensaje combinó la advertencia con una fuerte petición de confianza hacia las empresas desarrolladoras.
"El mundo debe confiar en que vamos a hacer lo correcto porque es lo correcto y porque somos conscientes de la magnitud de todo esto", aseguró Altman ante la audiencia, reconociendo que los temores de la sociedad están justificados. "Ya no hace falta tanta imaginación como antes para ver cómo esto podría salir mal. Creo que el mundo hace bien en tener miedo", sentenció.
— @el_pais Post oficial
El debate sobre la seguridad y regulación de la IA dominó el evento, reuniendo a las voces más influyentes de Silicon Valley. Dario Amodei, CEO de Anthropic, mantuvo su postura de ralentizar los desarrollos al considerar que los riesgos existenciales son sustanciales. Su visión fue respaldada públicamente por Elon Musk a través de la red social X.
Por otro lado, figuras como Jensen Huang, CEO de Nvidia, se mostraron más escépticos ante la necesidad de nuevas regulaciones estrictas. Huang defendió que la velocidad de innovación y la seguridad no son excluyentes. "Corre todo lo que puedas", indicó, aclarando que si el producto no es seguro, es responsabilidad de cada empresa detenerse a tiempo.
En esta misma línea se expresó Mark Zuckerberg, líder de Meta, quien rompió el silencio afirmando que cada laboratorio tiene suficientes incentivos propios para priorizar la "alineación" (que las acciones de la IA coincidan con la voluntad humana) sin requerir acuerdos forzados en todo el sector. Zuckerberg reveló que Meta llegó a retrasar meses el lanzamiento de su nuevo modelo, Muse, puramente para garantizar su seguridad, una decisión que, según él, todos deberían adoptar por iniciativa propia.