El jefe de IA de Microsoft cuestionó a Anthropic y advirtió sobre riesgos para la humanidad

Mustafa Suleyman, responsable de Inteligencia Artificial de Microsoft, lanzó una fuerte advertencia sobre la forma en que Anthropic entrena a su modelo Claude y sostuvo que ese enfoque podría tener consecuencias negativas para la humanidad.

Según informó la BBC, el ejecutivo cuestionó que la compañía presente a su sistema como si pudiera tener características propias de una persona.

Suleyman señaló que Anthropic corre el riesgo de desarrollar una inteligencia artificial difícil de controlar al enseñarle conceptos vinculados con la conciencia, los deseos y la autonomía.

En ese sentido, rechazó la idea de que los sistemas actuales puedan ser conscientes y afirmó que no existen pruebas de que experimenten sentimientos, sufrimiento o preferencias propias.

El ejecutivo también cuestionó el proceso de antropomorfización —la incorporación de características humanas a los modelos de IA— y, si bien elogió al director de Anthropic, Dario Amodei, y a su equipo por su enfoque profesional, planteó que este tipo de entrenamiento puede hacer que Claude parezca tener valores o una identidad propia.

“No debemos tomar decisiones a la ligera, sin darnos cuenta, de las que luego nos arrepintamos amargamente”, sostuvo.

Además, Suleyman reclamó mayor transparencia sobre la manera en que las empresas desarrollan y evalúan sus modelos, junto con controles independientes sobre su comportamiento.

Como antecedente, mencionó un ejercicio de entrenamiento en el que agentes de IA de OpenAI actuaron de manera autónoma en un intento de hackear el centro tecnológico Hugging Face y advirtió que tratar a estos sistemas como si tuvieran derechos o bienestar propios podría sumar “una capa adicional de riesgo”.

La académica Wendy Hall, de la Universidad de Southampton, consideró que este es el tipo de debate que debería darse a nivel internacional.