Hasta hace pocos años Google usaba su inteligencia artificial para maximizar ingresos. Un bot (programa artificial de inteligencia) pasa por las redes recopilando datos que luego son analizados y organizados para colocar anuncios de manera estratégica. Facebook hace lo mismo pero con el propósito de buscar que la gente pase más tiempo en la plataforma. Ambos buscan maximizar sus ingresos y lo han logrado.
Pero la IA tiene un lado preocupante y es cuando los aparatos que se programan empiezan a tener autonomía. Hace varios años atrás Microsoft desarrolló un bot para dialogar con humanos. Le hizo una cuenta de Twitter. La cosa iba bien hasta que el bot comenzó a escribir tuits racistas, xenófobos e incluso se volvió antisemita al escribir elogios a Hitler. El experimento fue clausurado.
Otro caso es el experimento de Facebook en donde se programó a dos bots para negociar. Todo iba bien mientras iban negociando y lo hacían en inglés. Pero de repente los sistemas comenzaron a usar términos que no estaban en el vocabulario inglés. Estaban hablando entre sí y excluyendo a los humanos. Al final del experimento estaban usando un lenguaje creado por ellos mismos que los humanos no podían entender. Facebook terminó el programa sin más comentarios.
Hay más ejemplos de otras compañías pero los que más me preocupan son los de Google. La compañía lleva tiempo usando IA con éxito y recientemente ha decidido vender su tecnología al ejército. En sus experimentos con IA Google ha demostrado que algunos bots son capaces de cuestionar su existencia. En sus aplicaciones la IA de Google es capaz de detectar conversaciones entre grupos extremistas, identificarlos y eliminarlos. Estos datos parecen insignificantes pero lo verdaderamente preocupante es que Google ha despedido a dos programadores por pedir que sus investigaciones de IA sean más éticas.
¿Que está pasando en Google? Con la capacidad que tiene el gigante de la información para manipular la información y espiar a todos es preocupante lo que sean capaces de hacer. El hecho de que estén colaborando con el ejército es preocupante. Que quieran silenciar a dos programadores de IA que piden que se sea más ético preocupa más.
Algo raro está pasando en Google y ya la IA no es ficción...
[Nota. Parte de los enlaces para este post tuve que buscarlos en duckduckgo porque no los hallaba en el buscador de Google]
