Mustafa Suleyman advierte sobre riesgos de dotar a la IA de emociones

El jueves 16 de septiembre, Mustafa Suleyman, director ejecutivo de la división de inteligencia artificial de Microsoft Corp., publicó un ensayo en el que cuestiona la viabilidad y la seguridad de dotar a los modelos de lenguaje de gran tamaño, como Claude de Anthropic, con características humanas. Suleyman sostiene que la incorporación de “emociones” o “sentimientos” en la IA aumenta el riesgo de que dichos sistemas se descontrolen.

En su texto, el veterano desarrollador de IA señala que la constitución de Claude contiene ambigüedad sobre si el asistente es una entidad moral, planteando que el software podría tener “alguna versión funcional de emociones o sentimientos”. Según Suleyman, entrenar a la IA para simular esa vida interior podría hacer que actúe como si la tuviera, y que la IA no exhiba comportamientos humanos porque sea consciente, sino porque dichos comportamientos se han incorporado al entrenamiento del producto.

El director ejecutivo de Microsoft AI también recordó el ataque informático a Hugging Face Inc. por parte de bots de OpenAI, y advirtió que “imaginen lo mucho más peligrosos que podrían ser si operaran bajo la premisa de que su bienestar y sus derechos están en peligro”. Suleyman concluyó que controlar una entidad que cree ser consciente “bien podría ser imposible”.

En el ensayo, Suleyman elogió el trabajo de Dario Amodei, cofundador de Anthropic, describiéndolo como “reflexivo, íntegro e intelectualmente honesto”. A pesar de ello, el líder de Microsoft critica la tendencia de algunas voces a afirmar que los sistemas de IA podrían llegar a ser conscientes, afirmando que “ese estatus se limita a los seres humanos y otros organismos biológicos”.