La Inteligencia Artificial (IA) se refiere a la simulación de la inteligencia humana en máquinas que están programadas para pensar y actuar como humanos. Las tecnologías de inteligencia artificial permiten que las computadoras realicen tareas que generalmente requieren inteligencia humana, como la percepción visual, el reconocimiento de voz, la toma de decisiones y la traducción de idiomas.
Un estudio liderado por un profesor de la Universidad de Florida Central ha identificado seis desafíos que deben superarse para mejorar nuestra relación con la inteligencia artificial (IA) y garantizar su uso ético y justo.
Un profesor de la Universidad de Florida Central y otros 26 científicos publicaron un estudio que destaca los obstáculos que la humanidad debe enfrentar para garantizar que la inteligencia artificial (IA) sea confiable, segura y esté alineada con los valores humanos.
El estudio fue publicado en el International Journal of Human-Computer Interaction .
Ozlem Garibay, profesor asistente en el Departamento de Ingeniería Industrial y Sistemas de Gestión de la UCF, fue el investigador principal del estudio. Según Garibay, si bien la tecnología de IA se ha vuelto cada vez más frecuente en varios aspectos de nuestras vidas, también ha presentado una multitud de desafíos que deben examinarse a fondo.
Por ejemplo, la próxima integración generalizada de la inteligencia artificial podría impactar significativamente la vida humana en formas que aún no se entienden completamente, dice Garibay, quien trabaja en aplicaciones de IA en el diseño y descubrimiento de materiales y fármacos, y cómo la IA impacta los sistemas sociales.
Los seis desafíos identificados por Garibay y el equipo de investigadores son:
- Desafío 1, Bienestar humano: la IA debería poder descubrir las oportunidades de implementación para que beneficie el bienestar de los humanos. También se debe considerar apoyar el bienestar del usuario cuando interactúa con la IA.
- Desafío 2, Responsable: La IA responsable se refiere al concepto de priorizar el bienestar humano y social a lo largo del ciclo de vida de la IA. Esto garantiza que los beneficios potenciales de la IA se aprovechen de una manera que se alinee con los valores y prioridades humanos, al mismo tiempo que se mitiga el riesgo de consecuencias no deseadas o infracciones éticas.
- Desafío 3, Privacidad: la recopilación, el uso y la difusión de datos en los sistemas de IA deben considerarse cuidadosamente para garantizar la protección de la privacidad de las personas y evitar el uso dañino contra personas o grupos.
- Desafío 4, Diseño: Los principios de diseño centrados en el ser humano para los sistemas de IA deben utilizar un marco que pueda informar a los profesionales. Este marco distinguiría entre IA con riesgo extremadamente bajo, IA sin necesidad de medidas especiales, IA con riesgos extremadamente altos e IA que no debería permitirse.
- Desafío 5, Gobernanza y supervisión: se necesita un marco de gobernanza que considere todo el ciclo de vida de la IA, desde la concepción hasta el desarrollo y la implementación.
- Desafío 6, interacción humano-IA: para fomentar una relación ética y equitativa entre los humanos y los sistemas de IA, es imperativo que las interacciones se basen en el principio fundamental de respetar las capacidades cognitivas de los humanos. Específicamente, los humanos deben mantener el control total y la responsabilidad por el comportamiento y los resultados de los sistemas de IA.
El estudio, que se llevó a cabo durante 20 meses, comprende las opiniones de 26 expertos internacionales que tienen diversos antecedentes en tecnología de IA.
“Estos desafíos exigen la creación de tecnologías de inteligencia artificial centradas en el ser humano que prioricen la ética, la equidad y la mejora del bienestar humano”, dice Garibay. “Los desafíos exigen la adopción de un enfoque centrado en el ser humano que incluya un diseño responsable, protección de la privacidad, cumplimiento de los principios del diseño centrado en el ser humano, gobernanza y supervisión adecuadas, e interacción respetuosa con las capacidades cognitivas humanas”.
En general, estos desafíos son un llamado a la acción para que la comunidad científica desarrolle e implemente tecnologías de inteligencia artificial que prioricen y beneficien a la humanidad, dice.
Referencia: «Seis grandes desafíos de la inteligencia artificial centrada en el ser humano» por Ozlem Ozmen Garibay