Las consecuencias no deseadas de la inteligencia artificial: sesgos, 'racismo' y mentiras

Las potentes herramientas digitales que utilizan software de inteligencia artificial ayudan en la lucha contra la COVID-19 y tienen el potencial de mejorar el mundo de muchas otras formas. Sin embargo, a medida que la inteligencia artificial se infiltra en más áreas de la vida diaria, se hace evidente que su mal uso puede provocar daños graves. Por ese motivo, las Naciones Unidas piden una regulación internacional sólida de la tecnología.

Aunque la inteligencia artificial evoca imágenes de máquinas que son capaces de pensar y actuar como las personas humanas, la realidad es más prosaica y tiende a usarse para describir softwares que pueden, hasta cierto punto, "aprender", resolver problemas y encontrar patrones. Esto es particularmente útil cuando es necesario clasificar y comprender grandes cantidades de datos.

Otro concepto erróneo es que, debido al aspecto de autoaprendizaje de la inteligencia artificial, se garantiza que proporcionará resultados más eficientes, confiables y superiores que cualquier cosa que los humanos puedan obtener. Sin embargo, los ejemplos recientes de uso indebido, en los que se ha visto cómo se han degradado incorrectamente calificaciones de exámenes, se ha enviado a personas inocentes a la cárcel y se han robado datos personales, son un recordatorio de que son los humanos, con todas sus imperfecciones, quienes están detrás de los éxitos de las fallas de las herramientas de inteligencia artificial.

Antes del lanzamiento de una guía de la ONU para comprender la ética de la inteligencia artificial, hay cinco cosas que debe saber sobre su uso, sus consecuencias y cómo se puede mejorar.

1) Las consecuencias del mal uso pueden ser devastadoras

En enero, un hombre afroamericano en Michigan, en Estados Unidos, fue arrestado por un delito de hurto del que no sabía nada. Fue detenido después de ser esposado frente a su casa delante de su familia.

Se cree que este es el primer arresto injusto de este tipo: los oficiales de policía involucrados habían confiado en una inteligencia artificial de reconocimiento facial para atrapar al hombre, pero la herramienta no había aprendido a reconocer las diferencias entre los rostros de los ciudadanos negros porque las imágenes que se usaron para entrenarlo habían sido en su mayoría de caras blancas. Por suerte, rápidamente quedó claro que no se parecía en nada al sospechoso que se ve en una foto tomada de las cámaras de seguridad de la tienda, y fue liberado, aunque pasó varias horas en la cárcel.

Y, en julio, hubo un alboroto en el Reino Unido, cuando los sueños de muchos estudiantes que esperaban ir a la universidad de su elección se frustraron, cuando se utilizó un programa para evaluar sus calificaciones, ya que los exámenes tradicionales se habían cancelado, debido a la pandemia de COVID-19.

Para averiguar qué calificación hubieran obtenido los estudiantes si se hubieran presentado a los exámenes, el programa tomó las calificaciones existentes y también tuvo en cuenta el historial de su escuela a lo largo del tiempo. Esto terminó por penalizar a los estudiantes brillantes de vecindarios minoritarios y de bajos ingresos, que tienen más probabilidades de ir a escuelas que, en general, cuentan con unas calificaciones promedio más bajas que aquellas a las que asisten estudiantes más ricos.

Estos ejemplos muestran que, para que las herramientas de inteligencia artificial funcionen correctamente, los expertos informáticos deben trabajar con datos de alta calidad.

Desafortunadamente, muchos de los datos que se utilizan para entrenar la inteligencia artificial se obtienen actualmente de consumidores de todo el mundo, a menudo sin su consentimiento explícito: los países más pobres a menudo carecen de la capacidad para garantizar que los datos personales estén protegidos o para proteger a sus sociedades de los dañinos ciberataques y de la desinformación que ha aumentado desde la pandemia de COVID-19.

2) El odio, la división y la mentira son buenos para los negocios

Muchas empresas de redes sociales han sido criticadas por usar algoritmos, impulsados por inteligencia artificial, para determinados usuarios enviándoles contenido personalizado que reforzará sus prejuicios. Cuanto más provocador sea el contenido, más posibilidades hay de que se consuma y se comparta.

La razón por la que estas empresas están felices de "impulsar" contenido socialmente divisorio y polarizador a sus usuarios, es que aumenta la probabilidad de que permanezcan más tiempo en la plataforma, lo que mantiene felices a sus anunciantes y aumenta sus ganancias.

Esto ha llevado a la popularidad de publicaciones extremistas y llenas de odio, difundidas por grupos que de otra manera serían conjuntos marginales poco conocidos. Durante la pandemia de COVID-19, esa práctica también ha llevado a la diseminación de información erróneamente peligrosa sobre el virus, lo que podría llevar a que más personas se infecten.

3) La desigualdad global se refleja en línea

Existe una sólida evidencia que sugiere que la inteligencia artificial está desempeñando un papel en hacer que el mundo sea más desigual y está beneficiando a una pequeña proporción de personas.

Por ejemplo, más de las tres cuartas partes de todas las nuevas innovaciones digitales y patentes son producidas por solo 200 empresas. De las 15 plataformas digitales más grandes que utilizamos, 11 son de Estados Unidos, mientras que el resto son chinas.

Esto significa que las herramientas de inteligencia artificial están diseñadas principalmente por desarrolladores en Occidente. De hecho, estos desarrolladores son abrumadoramente hombres blancos, que también representan la gran mayoría de los autores sobre temas de inteligencia artificial. El caso del arresto injusto en Michigan es solo un ejemplo de los peligros que plantea la falta de diversidad en este campo tan importante.

También significa que, para 2030, se espera que América del Norte y China obtengan la mayor parte de las ganancias económicas, que se espera que valgan billones de dólares, que se prevé que genere la inteligencia artificial.

La Inteligencia Artificial es mucho más amplia que el uso de robots (Unsplash/Rock'n Roll Monkey)

4) Los beneficios potenciales son enormes

Esto no quiere decir que la inteligencia artificial deba usarse menos: las innovaciones que utilizan la tecnología son inmensamente útiles para la sociedad, como hemos visto durante la pandemia.

Los gobiernos de todo el mundo han recurrido a soluciones digitales para nuevos problemas, desde aplicaciones de rastreo de contactos hasta telemedicina y medicamentos entregados por drones y, con el fin de rastrear la propagación mundial de COVID-19, la inteligencia artificial se ha utilizado para indagar a través de grandes almacenes de datos derivados de nuestras interacciones en las redes sociales y en línea.

Sin embargo, los beneficios van mucho más allá de la pandemia: la inteligencia artificial puede ayudar en la lucha contra la crisis climática, impulsando modelos que podrían ayudar a restaurar ecosistemas y hábitats, y retardar la pérdida de biodiversidad; y salvar vidas ayudando a las organizaciones humanitarias a dirigir mejor sus recursos donde más se necesitan.

El problema es que las herramientas de inteligencia artificial se están desarrollando con tanta rapidez que ni los diseñadores, ni los accionistas corporativos ni los gobiernos han tenido tiempo de considerar los posibles escollos de estas deslumbrantes nuevas tecnologías.

5) Necesitamos acordar una regulación internacional de inteligencia artificial

Por estas razones, la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO) está consultando a una amplia gama de grupos, incluidos representantes de la sociedad civil, el sector privado y el público en general, con el fin de establecer estándares internacionales de inteligencia artificial y garantizar que la tecnología tenga una sólida base ética, que abarque el estado de derecho y la promoción de los derechos humanos.

Las áreas importantes que deben tenerse en cuenta incluyen:

•    la importancia de brindar más diversidad en este campo para reducir los sesgos y los estereotipos raciales y de género
•    el uso apropiado de la inteligencia artificial en los sistemas judiciales para hacerlos más justos y eficientes
•    encontrar formas de garantizar que los beneficios de la tecnología se distribuyan entre el mayor número de personas posible

La consulta comenzó en julio de 2020, y los expertos de la UNESCO redactaron un borrador de documento legal y global sobre la ética de la inteligencia artificial, teniendo en cuenta sus impactos de amplio alcance, incluido el medio ambiente y las necesidades de los países del sur.

La elaboración de reglas internacionales que rijan el uso de la inteligencia artificial es un paso importante que nos permitirá decidir qué valores deben consagrarse y, lo que es más importante, qué reglas deben aplicarse.

Redacción de normas internacionales de la inteligencia artificial

Para ayudar a explicar las oportunidades y desafíos que plantea la inteligencia artificial, la UNESCO lanzará una nueva guía: "Comprender la ética de la inteligencia artificial: ¿Por qué es una preocupación de todos?" en enero de 2021.

Una de las funciones de esta agencia de la ONU es crear conciencia, educar a las personas y proporcionarles herramientas para la reflexión ética. Esta publicación permitirá a las personas de todas las edades y procedencias comprender mejor los problemas complejos relacionados con la inteligencia artificial y por qué deberían preocuparse por sus aplicaciones.

Vea un video sobre inteligencia artificial (en inglés con subtítulos en español).

Imagen de cabecera: Unsplash/Franki Chamaki (La inteligencia artificial sirve para procesar y analizar grandes cantidades de datos).

Artículos relacionados:
– Otra lección del COVID-19: los peligros de la tecnología.
– El sesgo de género en la tecnología de reconocimiento facial, cómo enfrentarlo.
– La brecha que destapó la pandemia.

Fuente: news.un.org