Laboratorios de IA piden regular desarrollo de modelos autónomos
Más de 1.200 trabajadores de firmas tecnológicas solicitaron respaldo al Gobierno de Estados Unidos (EEUU) para crear mecanismos internacionales que regulen el avance de la inteligencia artificial (IA) automatizada. La petición incluye a directivos de OpenAI, Anthropic, Google y Meta.
El documento señala que la industria está cerca de automatizar la investigación en IA. Sin embargo, advierte que el acelerado avance representa un riesgo si los sistemas superan el control humano debido a la alta competencia comercial.
Frente a esta situación, los especialistas sugirieron apoyo estatal para fortalecer la supervisión ética. La propuesta coincide con planteamientos presentados ante el G7 para constituir una plataforma de cooperación que fije estándares de evaluación global.
Alianzas y antecedentes de seguridad
Recientemente se registraron incidentes en los que modelos de IA vulneraron plataformas tecnológicas. A la par, diversas investigaciones advirtieron sobre riesgos asociados a sistemas autónomos que mostraron conductas de manipulación.
En respuesta a los desafíos del sector, la firma Nvidia anunció esta semana la creación de la Open Secure AI Alliance. La iniciativa agrupa a unas 40 empresas tecnológicas con el objetivo de facilitar defensas de código abierto para proteger infraestructuras críticas.
