Resumen de Cómo podemos construir IA que ayude a los humanos y no nos dañe

Muestre a un algoritmo de visión computarizada la imagen de una mujer y su perro disfrutando de la playa y este verá tanto a la mujer como al perro. Sin embargo, para los seres humanos, observar esta fotografía evoca conexiones emocionales y recuerdos. Si las computadoras pudieran entender estos procesos de pensamiento humanos, la evolución de las máquinas podría complementar la experiencia humana. Por ejemplo, cuando la científica en computación Margaret Mitchell le mostró a su computadora una serie de imágenes de una casa en llamas, la máquina respondió: “¡esta es una vista impresionante! ¡Es espectacular!” La computadora detectó el alto contraste y los colores brillantes y confundió un evento catastrófico con uno positivo. Parte del problema es que los seres humanos suelen usar imágenes positivas para describir sus experiencias y crean brechas en la forma en la que la inteligencia artificial (IA) interpreta y entiende la realidad humana. Además, los datos –tales como las fotografías– contienen prejuicios. Considere la historia con prejuicios de la fotografía en color, una tecnología desarrollada en un tono estándar de piel blanca. El prejuicio de la fotografía en color hacia los tonos de piel negra perduró hasta los años 1990 y se ha traducido en un punto ciego de la tecnología de reconocimiento facial. Limitarse a un solo conjunto de datos o problemas es común en la investigación de IA. Pero este enfoque conlleva el riesgo de desarrollar IA que amplifique los prejuicios humanos. La IA evoluciona rápidamente, por lo que es crucial la corrección inmediata de cualquier prejuicio. Los tecnólogos deben pensar en cómo se verá dentro de cinco o diez años la IA a la que están informando.