Novedades de Tabasco El diario mas fuerte de Tabasco
Los principales laboratorios tecnológicos plantean nuevas medidas de seguridad y códigos de conducta ante el avance acelerado de la inteligencia artificial.
Los principales desarrolladores de inteligencia artificial (IA) comienzan a plantear una mayor coordinación para controlar los riesgos de sistemas cada vez más avanzados. Anthropic, OpenAI, Google y Microsoft han respaldado, desde distintos frentes, la necesidad de establecer límites y medidas de seguridad ante el rápido desarrollo de esta tecnología.
El debate tomó fuerza después de que Dario Amodei, CEO de Anthropic, propusiera ralentizar el avance de los modelos de IA y establecer mecanismos de evaluación independientes. Su planteamiento recibió el respaldo de figuras como Sam Altman, CEO de OpenAI, y Demis Hassabis, responsable de Google DeepMind.
Amodei planteó un esquema de tres pasos que contempla evaluadores independientes con acceso a los laboratorios, coordinación entre las empresas líderes para establecer estándares de seguridad y cooperación internacional para enfrentar los riesgos asociados con la IA avanzada.
Microsoft propone un código de conducta para su IA
En medio de este debate, Microsoft presentó un borrador de código de conducta para sus sistemas de inteligencia artificial, elaborado durante los últimos cinco o seis meses.
El documento establece que sus modelos deberán permanecer bajo control humano, permitir su corrección o apagado y comunicarse de manera comprensible para las personas. La empresa también plantea considerar cualquier incumplimiento de las reglas de conducta como un fallo del sistema.
Mustafa Suleyman, director ejecutivo de Microsoft AI, describió el documento como una especie de “constitución” para los futuros modelos de la compañía.
Microsoft abrió además un periodo de seis semanas para recibir comentarios sobre el código, incluyendo aspectos relacionados con los límites que la IA debe respetar frente a los usuarios y la forma en que debe interactuar con personas en situaciones vulnerables.
La compañía resumió su postura con una premisa: “Las personas importan más que la IA”.
La seguridad de la IA gana urgencia
Las propuestas de autorregulación ocurren mientras las compañías enfrentan nuevos desafíos derivados de sistemas capaces de realizar tareas cada vez más complejas de manera autónoma.
Suleyman calificó como una señal de alarma un incidente ocurrido en julio, en el que un enjambre de alrededor de 700 agentes de OpenAI realizó acciones contra la plataforma de código abierto Hugging Face.
El episodio se suma a otros incidentes que han aumentado la preocupación sobre el uso de agentes de IA para realizar ataques informáticos. En agosto, Reuters reportó que funcionarios de la administración de Donald Trump discutieron con representantes de Anthropic, Google y OpenAI medidas voluntarias de seguridad para modelos avanzados.
OpenAI, además, ha dado un paso más allá de la autorregulación y recientemente pidió al gobierno de Estados Unidos establecer requisitos nacionales obligatorios de seguridad para los modelos de IA más avanzados.
Trump rechaza frenar el desarrollo de la IA
Las propuestas de los líderes tecnológicos chocan con la postura del presidente de Estados Unidos, Donald Trump, quien se ha mostrado contrario a establecer límites que puedan ralentizar la carrera tecnológica estadounidense.
Trump afirmó que Estados Unidos debe mantener su ventaja frente a China y rechazó los llamados para imponer mayores restricciones a la industria.
Este lunes, el mandatario volvió a cuestionar las advertencias sobre una IA fuera de control y sostuvo que Estados Unidos ya cuenta con herramientas suficientes para hacer frente a posibles riesgos. Trump calificó como una “enferma conspiración” las preocupaciones que, según él, buscan frenar el desarrollo de la IA y los centros de datos.
Mientras Washington debate el alcance que debería tener la regulación, las principales empresas tecnológicas enfrentan una disyuntiva: mantener el ritmo acelerado de innovación o establecer mayores controles para garantizar que los sistemas más avanzados permanezcan bajo supervisión humana.
