Mundo Pandereta

Mundo Pandereta

30 de julio de 2017

Skynet cada vez más cerca.

Una noticia me alarmó recientemente: "Apagan por precaución una Inteligencia Artificial que desarrolló su propio lenguaje". Y es que un titular como este en un mundo que ha empezado a caminar decididamente hacía un futuro robotizado, en lo que muchos ya describen como la Tercera Revolución Industrial, es algo como para preocuparse.


En la misma noticia y otras en las que se escribía sobre el tema, se explica como desarrolladores de una división centrada en IA de Facebook estaban trabajando en el proyecto FAIR, un proyecto destinado a conseguir una IA capaz de negociar eficientemente con personas y otras IA. Pasados unos pocos días de la puesta en marcha del proyecto, en el que dos agentes creados dentro de FAIR para negociar entre ellos y llamados "Alice y Bob" empezaron a comportarse de forma extraña. El proyecto fue programado para utilizar el inglés como idioma y para interactuar entre ellos, pero sin aparentemente ninguna razón empezaron a "hablar" de forma errática, con frases sin sentido, repetición de palabras, utilización de expresiones fuera de contexto e incluso palabras desconocidas. Lo que en un principio se creyó que era algún tipo de problema o "avería" en el sistema, se detectó que tenía cierto sentido.


Por lo visto "Alice y Bob" contra pronóstico y contra las ordenes con las que inicialmente fueron programados dentro de FAIR, crearon una forma más rápida y eficiente de interactuar entre ellos negociando y llegando a acuerdos. Ante la posibilidad de que sus propios creadores no pudieran entender ese nuevo idioma o forma de expresarse, decidieron desconectar FAIR para evitar que evolucionaran sin control.

No es la primera vez que sucede aunque en otra ocasión un proyecto similar centrado en IA y desarrollado por Google, tuvo que ser desconectado ya que el sistema empezó crear un idioma propio que los programadores de Google no lograban descifrar. Super ordenadores, asistentes virtuales, vehículos autónomos o sin conductor... la posibilidad real de que una IA potente pueda tomar decisiones al margen de su programación y al margen de sus creadores o que pueda llegar a evolucionar de forma que se convierta en un ente con individualidad y personalidad propia superior al ser humano, por mucho que haya quién defienda que eso no es posible, estos "incidentes" reales dan de que pensar al respecto.

Hay que tener presente la figura cinematográfica de Skynet para seguir investigando y desarrollando con cuidado y responsabilidad, ya que se corre el riesgo más real que ficticio de que la máquina se nos vuelva en contra o, lo que es más inquietante, tome conciencia de ella misma y decida actuar al margen de sus creadores.

1 comentario:

  1. Puto miedo me da esto.... Mas que cualquier historia de fantasmas. Ya lo dice Elon Musk que debemos de tener mucho cuidado con las IA.

    ResponderEliminar

Si quieres comentar adelante, pero siempre con respeto. ¡Gracias!