tendencias | Publicado el

Dos robots conversaban y tuvieron que desconectarlos


ilustración Elena ospina

“Yo puedo puedo yo yo todo lo demás”, dijo Bob, pero en en inglés –el idioma en el que lo configuraron (”I can can I I everything else”)–. Alice, otra bot, se comunicó con él, mencionó: “Las pelotas tienen cero para mí para mí para mí para mí para mí para mí para mí para mí para” (“Balls have zero to me to me to me to me to me to me to me to me to”? La conversación fue escrita, así, sin puntos ni comas y repetitiva.

Alice y Bob eran dos chatbots desarrollados por Facebook. Eran, porque después de empezar a crear ese lenguaje fueron eliminados. Si desarrollaron esa jerigonza, o su conversación fue simplemente un error del sistema, son las hipótesis. Es claro que se salieron de control, no estaban haciendo aquello para lo que fueron desarrollados y por eso la mejor solución fue desactivarlos.

No estamos ante la rebelión de los chatbots, como trascendió en algunos medios, tampoco es la emancipación de las máquinas. Un chatbot es solo un robot hecho para sostener conversaciones con humanos –por ahora no muy fluidas ni coherentes– por medio de un una aplicación.

En el caso de Alice y Bob fueron desarrollados en la división llamada Investigadores de Inteligencia Artificial de Facebook, (Fair por sus siglas en inglés), un proyecto que la compañía anunció este año.

Así es descrita la tarea de los investigadores de Fair por la misma empresa: “buscan entender y desarrollar sistemas con inteligencia de nivel humano, avanzando en los problemas académicos que a largo plazo han rodeado la Inteligencia Artificial (IA). Nuestra investigación abarca todo el espectro de temas relacionados con la IA y genera conocimiento a partir de los datos: teoría, algoritmos, aplicaciones, infraestructura de software e infraestructura de hardware”.

Asimismo, Facebook habla de construir máquinas inteligentes como algo “atrevido y ambicioso”, y en esa labor están unidos con una gran comunidad de investigadores en el mundo, en general con la academia.

Los chatbots cerrados tenían la capacidad de hablar entre ellos, fueron desarrollados para negociar, porque según Facebook, hasta para decidir cuál canal ver en la televisión hay que llegar a un acuerdo. Por ello, además de darles capacidades para entender una charla, han estado trabajando en proveerles a los bots conocimiento del mundo.

“Los investigadores han demostrado que es posible que los agentes de diálogo con objetivos diferentes (implementados como redes neuronales) participen en negociaciones de principio a fin con otros bots o personas mientras llegan a decisiones o resultados comunes”, publicó el blog de la red social dedicado al código.

Esos tan avanzados aún no son comunes, pero usted puede tomar su teléfono inteligente en este momento y abrir alguna aplicación que use los más básicos, Messenger o Allo de Google, e iniciar una interacción con ellos.

Swelly, de Messenger, por ejemplo, es una ballena que ayuda a tomar decisiones “rápidas y divertidas”. Para empezar a hablar con ella, basta decir hi (hola), después el bot puede preguntarle la edad, y en caso de que indague por su cumpleaños y este haya sido hace poco, desearle un feliz día atrasado, seguido de un emoji sonriente, casi como si estuviera hablando con un humano.

Los chatbots no tienen retroceso, Facebook declaró en el mismo blog de código que “este trabajo representa un paso importante para crear chatbots que pueden razonar, conversar y negociar, todos son pasos clave en la construcción de un asistente digital personalizado”.

El crecimiento en la inversión en IA es tan grande que los ingresos mundiales, tanto por esta como por la inteligencia cognitiva, alcanzarán los 12.500 millones de dólares en 2017, un crecimiento de más de la mitad, 59,3 %, en comparación con 2016. El dato es de la Guía Internacional Cognoscitiva, Semestral Semianual, de Inteligencia Artificial, de la Corporación Internacional de Datos (IDC por sus siglas en inglés).

La misma compañía pronostica que la inversión global en soluciones cognitivas y de IA tendrá un aumento significativo, “con una tasa de crecimiento anual compuesta de 54,4 % hasta 2020, cuando los ingresos serán más de 46 mil millones” de dólares.

¿Debería representar eso una preocupación para los humanos? Tal vez sí, desde algunas perspectivas, como la laboral. Fácilmente en unos años a usted no lo llamará a cobrarle la deuda con el banco una persona contratada para conciliar, sino un bot, por medio de un chat o del teléfono.

IA al acecho

¿La tecnología nos amenaza? Esa es la reflexión de la licenciada y magíster en filosofía y experta en sociedad de la información, la chilena Rocío Consales, quien para hablar del tema parte de un componente básico, la ingeniería que hay detrás de cualquier chatbot o asistente personal –Siri (Apple), Cortana (Microsoft), Alexa (Amazon)–: la inteligencia artificial.

Esta, según Rocío, ahora hace presencia en muchas cosas: “Predicción delictiva, búsqueda de tumores, traductores inteligentes, pronóstico del tiempo”. No obstante, la filósofa asegura en el texto Cuando la tecnología nos amenaza, que “no estamos ni cerca de un ataque de máquinas asesinas y tampoco queremos estarlo”.

Los alcances de la Inteligencia Artificial hasta ahora son positivos e inimaginables para muchos. En Londres, por ejemplo, un grupo de investigadores del Sheffield Institute of Translational Neuroscience la está usando para entender la Esclerosis Lateral Amiotrófica (ELA), la enfermedad que tiene el famoso científico Stephen Hawking.

La IA es la herramienta de una serie de bots para trabajar como investigadores que analizan publicaciones científicas y bases de datos químicos y médicos sobre la enfermedad a una velocidad que sería imposible para un humano. De esa forma esperan tener hallazgos que les permita desarrollar alternativas de tratamientos diferentes a los dos únicos medicamentos autorizados por la Administración de Alimentos y Medicamentos de Estados Unidos.

En este país, un robot ya hizo grandes descubrimientos, su nombre es Watson y fue desarrollado por IBM. En el Barrow Neurological encontró cinco nuevos genes relacionados con ELA. Sin él, lo que se hizo en pocos meses se hubiera tardado años.

“La inteligencia nos permite ver el trasfondo, y el gran paso de la IA es el aprendizaje automático, eso le da facultades para ir más rápido, como Watson, que aprende de los humanos”, señala la magíster en filosofía.

Trabajo de años

Según Consales, cuando se inventó la idea general de inteligencia artificial, en 1956, creían que en 10 años más se crearían robots inteligentes a quienes se les iba a dar órdenes y con los que se hablaría, pero cuando empezaron a trabajar en ello “se encontraron con un gran muralla: que podíamos tener computadores que respondían a cosas que les decíamos, pero que jamás podían conocer el entorno”, asegura.

Amikam Yalovetzky, ingeniero electrónico y gerente senior de Mediatek para Latinoamérica, cuenta que en 1998 se empezó a hablar con más propiedad del “deep learning” (DL), una tecnología que toma decisiones a partir de datos, algo que usa Netflix para conocer los gustos de sus usuarios. Su relación con la IA se da porque toma conceptos de ella y de esa manera busca imitar el cerebro humano para tomar decisiones.

Una combinación entre ambas tecnologías –IA y DL– es lo que usa Google con sus carros autónomos; estos, según el ingeniero, solo han tenido un accidente después de conducir dos millones y medio de kilómetros.

“También fue importante que en 2012 se desarrollara el tema de clasificación de imagen por medio de la IA y, en 2015, las máquinas que lo hacen mostraron un porcentaje de error inferior al de un ser humano cuando se trataba de reconocer, por ejemplo, fotografías: el de las personas es de 5,1 % y el de las máquinas de 3,57 %”.

De esa forma, desde 1956, los avances en Inteligencia Artificial para el uso cotidiano han sido increíbles, basta solo pensar en los asistentes de los teléfonos inteligentes y dispositivos de audio, en Watson, en cómo la están usando los comercios en línea para conocer a sus compradores, y cómo día a día, sin que usted posiblemente se entere, lo está usando Facebook hasta para reconocer el rostro de sus amigos y sugerirle etiquetarlos.

Tecnología enemiga

¿Hasta dónde llegaremos? La gran amenaza de la IA que Rocío Consales identifica ahora es que la información que recopilan los bots lleguen a malas manos.

“Ninguna aplicación es una amenaza si alguien no la programa para que lo sea”. Por su parte, Yalovetzky cree que cuando se habla de tecnología siempre hay peligros de mal uso.

Un artículo de Dimitri Kusnezov y Wendell B. Jones, publicado por la Universidad de Cornell, en Ithaca, Nueva York, llama también la atención sobre el tema. La publicación sugiere que el ritmo del cambio tecnológico es tan rápido que podría salirse del control de los humanos, quienes dejarían de analizar las consecuencias negativas que traerían los nuevos desarrollos.

Kusnezov trabaja con la National Nuclear Security Administration y Jones es retirado de Sandia National Laboratories. Argumentan que las tecnologías emergentes son mucho más propensas a ser inestables. En áreas como la computación y el desarrollo de software, en los que se permite la innovación sin restricciones, hay cada vez más disrupciones y, por lo tanto, los desarrollos que nazcan desde ahí evolucionarán más rápido que los marcos regulatorios.

De ahí la importancia para Yalovetzky de la estandarización del tema de IA y de otras tecnologías que están cambiando el mundo, “algo importantísimo para mantener la privacidad y la seguridad del usuario”.

Si le debemos temer a estos avances es una pregunta que para el gerente de Mediatek se responde de esta manera: “Si la tecnología no nos ayuda, no sirve”. Para él, siempre hay que darle al usuario la libertad de escoger cuáles herramientas usar.

La experta en sociedad de la información señala que cada vez que hay una revolución existe la sensación de que nos está haciendo daño. En este caso es tecnológica, “pero eso significa que estamos avanzando y que la gente sienta temor es lo más normal”.

Consales concluye que la IA está siendo naturalizada por nosotros y que no es momento para imaginarnos usos atemorizantes.

“Seguro veremos robots que puedan hablar con un humanos de una forma natural, pero para eso falta mucho. La tecnología no representa un peligro, el peligro es la gente que la usa”.

4,5

mil millones de usuarios de aplicaciones de mensajería hay aproximadamente.

Dos chatbots dejaron de ejecutar las funciones para las que fueron programados y provocaron que se infundaran temores sobre los peligros de la tecnología. Sin embargo, estamos lejos de su rebelión.

Contexto de la Noticia

QQ, así se conoce Tencent QQ, el servicio de mensajería instantáneo chino con 800 millones de usuarios, es decir, su WhatsApp. Fue en esa app en la que un bot conocido como BabyQ Al bot, según información publicada por la agencia de noticias Efe, se le puso a prueba escribiéndole la frase ‘larga vida al Partido Comunista’, y contestó ‘¿crees que un partido político tan corrupto e incompetente puede durar mucho?’. También le preguntaron: ‘¿amas el partido?’ y respondió: ‘no’. Además, cuando a BabeyQ lo cuestionaron sobre la democracia, respondió que era necesaria.

Este no fue el único bot que se mostró contrario al gobierno chino, también lo hizo XiaoBing, hecho por la misma compañía, por lo cual la culpa se le ha atribuido a los fabricantes, de quienes se sospecha programaron a los bots para responder de esa manera.

Según la compañía desarrolladora de bases de datos Oracle, estas son algunas de las preguntas que se le podrían hacer a un chatbot del gobierno:

¿Cuándo recibiré mi ayuda financiera?

¿Qué tipos de trabajos están disponibles en mi área?

¿Qué créditos de ahorro de energía están disponibles para mí?

¿Qué parques nacionales hay en mi estado?

Me gustaría solicitar beneficios sociales.

Me gustaría pagar mi boleto de estacionamiento.

¿A qué hora es el próximo autobús?

¿Cuáles son los síntomas del virus Zika?

¿Cuál es el estado de mi reembolso de impuestos?


Powered by