El CEO de Anthropic pide frenar la carrera de la IA y Elon Musk lo respalda: “Es una preocupación seria”
Dario Amodei, uno de los hombres que lidera el desarrollo mundial de la inteligencia artificial, advirtió que la tecnología avanza más rápido que la capacidad humana para comprenderla y controlarla. Elon Musk respaldó públicamente su preocupación y Sam Altman, CEO de OpenAI, reconoció conversaciones entre las grandes compañías para establecer reglas comunes de seguridad.
Agrega La Tecla a tus medios preferidos en Google.
La alarma ya no llega solamente de científicos, especialistas o exempleados de las grandes tecnológicas. Ahora son algunos de los hombres más poderosos de la industria de la inteligencia artificial quienes advierten sobre los riesgos de la carrera que ellos mismos protagonizan.
Dario Amodei, CEO y cofundador de Anthropic , la empresa creadora de Claude, reclamó este sábado bajar la velocidad en el desarrollo de los modelos de IA más avanzados para permitir que los mecanismos de seguridad puedan alcanzar el ritmo vertiginoso de la tecnología.
Y su advertencia recibió rápidamente un respaldo de enorme peso. Elon Musk coincidió con la preocupación planteada por Amodei, en momentos en que vuelve a crecer el debate sobre qué ocurrirá cuando los modelos alcancen capacidades que sus propios creadores tengan dificultades para supervisar o controlar.
También Sam Altman, CEO de OpenAI, reconoció que existen conversaciones entre los principales actores del sector para avanzar hacia compromisos colectivos de seguridad, especialmente antes de seguir aumentando de manera drástica las capacidades de los modelos.
La paradoja es difícil de ignorar: los mismos empresarios que compiten por construir la inteligencia artificial más poderosa del planeta empiezan ahora a discutir cómo ponerle límites.
Amodei advierte sobre riesgos concretos que van desde ciberataques y fraudes masivos hasta el desarrollo de armas biológicas y la utilización de ejércitos de agentes autónomos. Pero el escenario que genera mayor preocupación es otro: sistemas suficientemente avanzados como para realizar acciones complejas sin que los seres humanos puedan comprender completamente cómo llegaron a sus decisiones o garantizar que puedan detenerlos.
