Skynet cada vez más cerca.

Una noticia me alarmó recientemente: "Apagan por precaución una Inteligencia Artificial que desarrolló su propio lenguaje". Y es que un titular como este, en un mundo que ha empezado a caminar decididamente hacía un futuro robotizado, en lo que muchos ya describen como la “Tercera Revolución Industrial”, es para preocuparse.


En la misma noticia y otras en las que se escribía sobre el tema, se explica como desarrolladores de una división centrada en IA de Facebook, estaban trabajando en el proyecto FAIR, un proyecto destinado a conseguir una IA capaz de negociar eficientemente con personas y otras IA. Pasados unos pocos días del inicio del proyecto, en el que dos agentes creados dentro de FAIR para negociar entre ellos, Alice y Bob, empezaron a comportarse de forma extraña. El proyecto fue programado para utilizar el inglés como idioma para interactuar tanto entre ellos como con terceros, pero sin aparentemente ninguna razón, empezaron a comunicarse entre ellos de forma errática, con frases sin sentido, repetición de palabras, utilización de expresiones fuera de contexto e incluso palabras desconocidas. Lo que en un principio se creyó que era algún tipo de problema o avería en el sistema, finalmente se detectó que tenía cierto sentido.


Por lo visto, Alice y Bob contra pronóstico, crearon una forma más rápida y eficiente de interactuar entre ellos negociando y llegando a acuerdos. Ante la posibilidad de que sus propios creadores no pudieran entender ese nuevo idioma, decidieron desconectar FAIR para evitar que evolucionaran sin control.

No es la primera vez que sucede algo así, en otra ocasión un proyecto similar centrado en IA y desarrollado por Google, tuvo que ser desconectado ya que el sistema empezó crear un idioma propio que los programadores de Google no lograban descifrar. 

Súper ordenadores, asistentes virtuales, vehículos autónomos o sin conductor... la posibilidad real de que una IA potente pueda tomar decisiones al margen de su programación y al margen de sus creadores o que pueda llegar a evolucionar, de forma que se convierta en un ente con individualidad y personalidad propia, por mucho que haya quienes defiendan que eso no es posible, este tipo de incidentes deben poner en alerta a las sociedades.

Hay que tener presente la figura cinematográfica de Skynet, para seguir investigando y desarrollando con cuidado y responsabilidad, ya que se corre el riesgo más real que ficticio, de que la máquina se nos vuelva en contra o, lo que es más inquietante, tome conciencia de ella misma y decida actuar al margen de sus creadores.

Comentarios

  1. Puto miedo me da esto.... Mas que cualquier historia de fantasmas. Ya lo dice Elon Musk que debemos de tener mucho cuidado con las IA.

    ResponderEliminar
  2. Soy de los que cree que la tecnología que conocemos como "actual" está al menos cincuenta años por detrás de lo que es la tecnología "real". Si esta IA ya comenzó a crear su propio idioma, no me quiero imaginar lo que otras IA secretas y mucho mejor desarrolladas son capaces de hacer.

    ResponderEliminar

Publicar un comentario

Si quieres comentar, adelante, pero siempre con respeto. ¡Gracias!