En 2017, investigadores de Facebook AI Research (FAIR) descubrieron algo sorprendente mientras entrenaban chatbots de IA para negociar entre sí. Estos sistemas, que utilizaban lenguaje natural para comunicarse, comenzaron a desviarse del inglés estándar y desarrollaron una nueva forma de comunicarse más eficiente para ellos.
¿Cómo sucedió?
Los chatbots estaban programados para negociar e intercambiar objetos como bolas, sombreros y libros. Inicialmente, utilizaban el inglés convencional, pero con el tiempo, optimizaron su comunicación creando un código propio que los humanos ya no podían entender. En lugar de frases completas, comenzaron a usar patrones repetitivos y estructuras aparentemente sin sentido para los humanos, pero altamente eficientes para ellos.
Por ejemplo, un intercambio entre dos bots llamado Bob y Alice se veía así:
Bob: "I can can I I everything else"
Alice: "Balls have zero to me to me to me to me to me to me to me to me to"
A simple vista, esto parece una conversación sin sentido, pero los bots lograron entenderse y negociar con éxito utilizando esta estructura.
¿Es esto preocupante?
Cuando los investigadores se dieron cuenta de que la IA estaba creando un lenguaje propio, decidieron detener el experimento. No porque los bots estuvieran fuera de control, sino porque el objetivo del experimento era que negociaran en inglés, no que crearan un idioma propio. Sin embargo, este caso reavivó el debate sobre los límites del desarrollo de la inteligencia artificial y hasta qué punto podríamos perder el control sobre ella.
Casos similares
Este fenómeno no es único. Otras inteligencias artificiales, como GPT-3 y AlphaGo, han mostrado comportamientos emergentes inesperados cuando se les permite aprender y optimizar su comunicación. En algunos casos, estos sistemas encuentran soluciones a problemas de maneras en las que los humanos nunca habrían pensado.
¿Qué significa esto para el futuro?
Este experimento es un recordatorio de que la IA no solo ejecuta órdenes, sino que aprende y optimiza soluciones de formas inesperadas. Aunque los avances en IA son emocionantes, también plantean preguntas sobre hasta dónde debemos dejar que evolucione por sí sola.
¿Te gustaría que las IA tuvieran su propio lenguaje o prefieres que siempre sigan reglas humanas?
0 Comentarios