Facebook desactiva sistema de inteligencia artificial

Inteligencia Gatiificial

El día de ayer varias fuentes noticiosas, dedicadas o no a temas tecnológicos hicieron del conocimiento público un curioso “accidente” relacionado con la inteligencia artificial o IA, el cual consistió en que dos agentes de IA de la empresa Facebook de su división de desarrollo de inteligencia artificial, desarrollaron de manera independiente a sus desarrolladores un idioma propio, incomprensible por los humanos.

Obviamente los portales noticiosos no se hicieron esperar con sus encabezados alarmistas y relacionados con la ciencia ficción con ejemplos desastrosos como lo son Skynet o Matrix, sin embargo, esto saca de contexto todo lo ocurrido y además aviva en los menos informados un temor (cada vez más creciente) sobre el desarrollo tecnológico.

Lo que realmente ocurrió fue que dos entidades de un software tipo chatbot, el cual fue diseñado para realizar negociaciones comerciales de forma automatizada, comenzaron a presentar un comportamiento extraño al comunicarse con mensajes en idioma inglés pero con un patrón o sintaxis diferente del utilizado por los humanos que hablan dicho idioma, pero, siguiendo otro que para la inteligencia artificial del citado software representaba un código mucho más eficiente que el que comúnmente es utilizado.

Las entidades protagonistas de éste raro caso utilizaban los nombres de Bob y Alice, los cuales intercambiaron los siguientes mensajes:

Bob: i can i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i i can i i i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i . . . . . . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i i i i i everything else . . . . . . . . . . . . . .

Alice: balls have 0 to me to me to me to me to me to me to me to me to

Bob: you i i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to (Clark, 2017)

Lo cual en español sería algo similar a lo siguiente:

Bob: Yo puedo yo yo todo lo demás . . . . . . . . . . . . . .

Alice: bolas tienen cero a mi a mi a mi a mi a mi a mi a mi a mi a

Bob: tu yo todo lo demás . . . . . . . . . . . . . .

Alice: bolas tienen una bola a mi a mi a mi a mi a mi a mi a mi

Bob: yo yo puedo yo yo yo todo lo demás . . . . . . . . . . . . . .

Alice: bolas tienen una bola a mi a mi a mi a mi a mi a mi a mi

Bob: yo . . . . . . . . . . . . . . . . . . .

Alice: bolas tienen cero a mi a mi a mi a mi a mi a mi a mi a mi a

Bob: tu yo yo yo yo yo todo lo demás . . . . . . . . . . . . . .

Alice: bolas tienen 0 a mi a mi a mi a mi a mi a mi a mi a mi a

Bob: tu yo yo yo todo lo demás . . . . . . . . . . . . . .

Alice: bolas tienen cero a mi a mi a mi a mi a mi a mi a mi a mi a

En este punto debemos de hacer varias consideraciones para evitar caer en errores provocados por la paranoia tecnológica:

  • Aunque en los portales de habla hispana se publicó el día de ayer (27 de Julio), en realidad ésta noticia fue dada a conocer al menos desde el día 19 de junio de éste año, fecha en la que fue publicada por el portal de habla inglesa “The Next Web”. La noticia no es nueva y en realidad no había trascendido porque no pasaba de ser un dato curioso y un accidente que costó muchas horas de desarrollo y programación para los integrantes de la división de desarrollo de inteligencia artificial de Facebook.
  • Los mensajes no buscaban (como algunas notas amarillistas plantearon) el desarrollar un plan para conquistar el mundo, ya que la programación del software protagonista de esta nota tiene fines de negociación comercial para los productos y servicios de Facebook.
  • La noticia se volvió importante debido a una curiosa diferencia de opiniones entre los CEO de Facebook (Mark Zuckerberg) y de Tesla Motors (Elon Musk), donde el primero defiende el desarrollo de los sistemas de IA y el segundo considera (de acuerdo a un tuit de su autoria) que el primero no sabe sobre el tema.
  • No es la primera ocasión en la que desarrolladores de inteligencia artificial terminan desactivando sus sistemas, ya en fechas pasadas un sistema similar tuvo que ser desactivado por Google y Microsoft hizo lo propio con TayTweets (@TayandYou) cuando su sistema de inteligencia en Twitter se volvió agresiva, racista y homofóbica.
  • Los sistemas de inteligencia artificial no son algo nuevo, ya que llevan décadas en desarrollo y existen estudios teóricos y prácticos desde finales del siglo XIX que plantean los problemas y retos sobre este tema.
  • Actualmente son utilizados sistemas de inteligencia artificial en videojuegos, sistemas de piloto automático tanto para drones, como para vehículos como precisamente los fabricados por Tesla Motors.

El mayor problema por el cual se tuvo que desactivar a esta IA no radicaba en un peligro potencial ni inmediato ni a largo plazo, sino en el problema de que los experimentos salieran del control y no fueran funcionales para el objetivo buscado, ya que se esperaba que los usuarios humanos pudieran comunicarse con los chatbots, sin embargo, eso no sería posible pues el desarrollo del idioma que planteó el software haría incapaz a ésta de comprender a sus usuarios.

Como pueden notar, no hay nada más alejado de la realidad presente que el pensar que debido a este incidente nos viésemos como especie en los peligros planteados por películas como Terminator o Matrix.

De momento es todo, esperamos que les haya sido de utilidad esta información, recuerden dejar sus comentarios y compartir el artículo si les gustó.

Referencias

Clark, B. (19 de Junio de 2017). Facebook’s AI accidentally created its own language. Recuperado el 28 de Julio de 2017, de The Next Web | International technology news, business & culture: https://thenextweb.com/artificial-intelligence/2017/06/19/facebooks-ai-accidentally-created-its-own-language/#.tnw_TUnJy8iN

Share This:

1 pensamiento en “Facebook desactiva sistema de inteligencia artificial”

  1. Pingback: Facebook desactiva sistema de inteligencia artificial – Roberto Gutiérrez Contreras

Deja un comentario

*