Todos sabemos que las televisión, radio y algunos periódicos son usados por grupos políticos y grandes compañías para manipular nuestras mentes. Yo ya hace años dejé de mirar televisión y escuchar la radio. Al menos cuando lees la prensa puedes escoger lo que quieres leer y puedes volver atrás para asegurarte que has entendido lo que dicen. Claro que también tienes que seleccionar los periódicos que lees y a mí me gusta leer también la prensa fiable de varios países para tener mejor perspectiva de las noticias.
Desde hace ya algunos años las vías de manipulación mental han aumentado y ahora los ordenadores son también una parte muy importante de la manipulación. El uso de algoritmos de inteligencia artificial (IA) en las redes sociales ha sido la nueva vía de manipulación aun más peligrosa que los antiguos medios.
La capacidad de la IA en manejar enormes cantidades de datos, impensables solo hace unos años, hace que los algoritmos asociados con páginas web, como Facebook por ejemplo, pueden diseñar una descripción de nuestras personas en vista de lo que miramos o compramos en estas páginas. Luego, según cómo se haya diseñado el algoritmo pueden darnos más información en lo que creen que nos interesa o modificarnos la información para inducirnos en una dirección diferente. Evidentemente también nos inducen a comprar lo que ellos quieren.
Al construir los algoritmos IA se les da criterios que deben usar pero al ponerse en marcha no quiere decir que la IA siga solo estos criterios, el algoritmo desarrolla los suyos que pueden no ir en la dirección esperada o que pueden violar derechos básicos. Estos sistemas no son conscientes y por tanto no tienen una valoración ética de lo que hacen ni tienen autocorrección. Eso implica que cuanto más se desarrollen más peligrosos pueden resultar.
Tenemos los mismos problemas al buscar información través de internet. Por ejemplo Google nos puede dar respuestas a muchas preguntas que podemos tener. Pero al responder a veces nos da bastantes páginas de posibles respuestas. En muchos casos las respuestas están ordenadas más o menos en la frecuencia de uso de las páginas web a las que nos envía, pero claro el estar más frecuentadas no implica que sean las más certeras. Por otra parte muchas páginas web usan bots para producir llamadas falsas y así aumentar su popularidad. Es posible que a veces si Google nos da 20 páginas de respuestas la respuesta más acertada esté en la página 12 y ¿llegamos alguna vez a la página 12 al buscar una respuesta?
Mas peligroso es aun el ChatGPT ya que te da una respuesta fabricada por IA a tu pregunta. Como prueba le pregunté que quien era Benjamin A. Carreras y me dio un curriculum profesional mío razonable pero dijo que había nacido en Puerto Rico y era licenciado por la Universidad de Puerto Rico.
Eso no quiere decir que IA sea algo intrínsecamente malo, todo lo contrario, el problema está en su supervisión y cómo se controla. En investigación es un instrumento muy útil para análisis de datos. Pero en estos casos se le asigna una tarea concreta y se revisan sus resultados para ver si tiene sentido lo que ha concluido. El peligro está en usarlo de control en las redes sociales sin una supervisión precisa y dándole tareas que acaban manipulando a las personas.
