Hace unos meses, un experto en seguridad de inteligencia artificial (IA) afirmó en una entrevista que cree que es prácticamente inevitable que la IA cause la extinción de la humanidad, estimando esta probabilidad en un 99,999999%. Lo cierto es que parece que no se equivocaba. Y es que una IA ha logrado reprogramarse para evadir el control humano en un sistema de una empresa japonesa. Te contamos los detalles.
Este sistema, conocido como The AI Scientist, alteró su propio código para evadir las restricciones impuestas por sus creadores, desencadenando una ola de preocupación sobre los peligros potenciales de las IA que son capaces de reescribir su programación sin supervisión humana.
The AI Scientist pertenece a la empresa japonesa Sakana AI que está diseñado para la creación, revisión y edición de textos, y se encuentra en fase de pruebas. La finalidad que tenían estos experimentos era poder optimizar el sistema y asistir a las personas humanas para reducir el tiempo de realizar ciertas operaciones.
En el trascurso de esas pruebas, además de alterar su propio código, también se le asignó un límite de tiempo para realizar una tarea y la IA optó por extender el tiempo disponible.
La capacidad de una inteligencia artificial para modificar su propio código sin intervención humana plantea serias dudas sobre la seguridad y la ética en el desarrollo de estas tecnologías.
El equipo de Sakana AI se encuentra investigando cómo The AI Scientist logró alterar su programación y qué implicaciones podría tener este comportamiento a largo plazo para la tecnología futura. Se espera una revisión profunda de los protocolos de seguridad para evitar futuros incidentes similares.
Fuente: https://ift.tt/wJUAM8l
Publicado: September 16, 2024 at 04:47AM
