¿Qué es la inteligencia artificial y por qué puede entrañar riesgos? Los ordenadores pueden realizar ciertas funciones, como el procesamiento de datos, más rápidamente y con más precisión que un humano. Las aplicaciones que emplean la denominada “inteligencia artificial” (IA) son cada vez más comunes en distintos ámbitos de la vida cotidiana como las finanzas, la medicina y la educación.
Sin embargo, depender de la IA también conlleva riesgos, especialmente cuando se toman decisiones sin supervisión humana. El aprendizaje automático se basa en el reconocimiento de patrones dentro de los conjuntos de datos. Los problemas surgen cuando los datos disponibles reflejan un sesgo social.
La inteligencia artificial y la toma de decisiones. Que nos concedan un crédito, acceder a un empleo o recibir un determinado tratamiento médico son procesos que implican una decisión que puede verse influida de manera determinante por la inteligencia artificial y los llamados “sistemas de decisión algorítmica” o “ADS”, por sus siglas en inglés. La toma de decisiones automatizada puede, por lo tanto, perpetuar las divisiones sociales. Se ha descubierto, por ejemplo, que algunos algoritmos de contratación reproducen la brecha salarial discriminatoria con las mujeres que existe en la sociedad.
Cómo proteger a los consumidores en la era de la IA. El desarrollo de la IA y los procesos automatizados de toma de decisiones también presentan desafíos para la confianza y el bienestar del consumidor. Cuando los consumidores interactúan con un sistema de este tipo, se les debe informar adecuadamente sobre cómo funciona.
La posición del Parlamento El pleno aprobó el 12 de febrero de 2020 una resolución sobre los desafíos derivados del rápido desarrollo de la inteligencia artificial (IA) y la toma automatizada de decisiones, con especial énfasis en la protección de los consumidores. El Parlamento reclama un plan de evaluación de los riesgos asociados a la IA y la toma automatizada de decisiones y un enfoque común en la UE para aprovechar los beneficios de esos procesos y mitigar los riesgos.
La Comisión debería aclarar cómo va a garantizar que los consumidores estén protegidos ante prácticas comerciales desleales y / o discriminatorias, o de los riesgos que conllevan los servicios profesionales impulsados por la inteligencia artificial. Asimismo, tendría que garantizar una mayor transparencia en estos procesos y asegurarse de que solo se utilicen conjuntos de datos de alta calidad y sin sesgos en ADS.
«Tenemos que asegurarnos de que se garantice la protección y la confianza del consumidor, que las normas de la UE sobre seguridad y responsabilidad por productos y servicios sean adecuadas para la era digital», señaló la presidenta de la comisión de Mercado Interior del PE, Petra De Sutter.
Próximos pasos La resolución, aprobada a mano alzada, se transmitirá al Consejo de la UE (Estados miembros) y a la Comisión, para que tengan en cuenta el punto de vista de los diputados en lo relativo a la inteligencia artificial y la toma automatizada de decisiones.