La integridad artificial

Los caminos para conducir la IA hacia un futuro centrado en el ser humano

Wiley, 2024

15 mins. de lectura

8 ideas fundamentales

Audio y Texto

¿De qué se trata?

Los modelos de IA no pueden producir resultados verdaderamente “inteligentes” si carecen de “integridad artificial”.

1×

Ingrese para escuchar el resumen en audio.

Clasificación editorial

Cualidades

Ejemplos concretos
Importante
Por expertos

Reseña

La revolución de la IA ha suscitado una serie de predicciones: los pesimistas esperan que las máquinas tomen el control, mientras que los optimistas prevén un mundo mejor, en el que los modelos de IA mejoren las habilidades y el bienestar humanos. En esta guía, el ejecutivo tecnológico Hamilton Mann sostiene que un resultado benéfico para la humanidad depende de garantizar la “integridad artificial”, es decir, crear marcos para el desarrollo de la IA que den lugar a resultados que respalden los valores y objetivos humanos. El autor pide a los lectores que acepten las posibilidades de mejora individual y social a través de la inteligencia artificial, al tiempo que se establecen las medidas de protección adecuadas.

Resumen

La “integridad artificial” ayuda a garantizar que los resultados de la IA beneficien a la humanidad.

El legendario inversionista Warren Buffett dijo que buscaba tres cosas a la hora de contratar: integridad, inteligencia y energía. “Y si no tienen la primera, las otras dos te matarán”, bromeó Buffett. Lo mismo ocurre con la inteligencia artificial. El hecho de que una herramienta de IA sea inteligente, es decir, potente, no significa que pueda o vaya a producir resultados inteligentes, libres de sesgos, adecuados al contexto, seguros y benéficos para la humanidad. Por ello, cualquier debate sobre el desarrollo futuro de la inteligencia artificial debe centrarse en cómo garantizar la “integridad artificial”, es decir, cómo asegurarse de que los resultados de los modelos de IA respalden y se guíen por los valores humanos. Consideremos, por ejemplo, los vehículos autónomos, que están programados para decidir sobre la marcha la cuestión de la seguridad humana en una emergencia. Esa programación debe basarse en normas y valores determinados por personas de la sociedad en la que opere el auto.

La IA es la primera tecnología que asume funciones cognitivas...

Sobre el autor

Hamilton Mann es ejecutivo tecnológico, pionero de Digital for Good, conferencista y creador del concepto de integridad artificial. Es vicepresidente del grupo responsable de las iniciativas de IA y de la transformación digital en Thales.