Transcender

Criar políticas para moldar o futuro da IA exige que se entenda melhor o que a humanidade mais valoriza.

A IA está presente em grande parte da vida cotidiana, desde softwares de reconhecimento facial até a programação das músicas no seu streaming favorito. À medida que as tecnologias de IA evoluem, muitos se preocupam, e com razão, com os efeitos profundos que essas tecnologias emergentes podem ter em aspectos importantes da vida, como a autonomia humana e a saúde do planeta. A humanidade precisa estabelecer prioridades claras sobre como direcionar e governar o uso e desenvolvimento da IA, refletindo sobre duas questões: o que a humanidade mais valoriza e, portanto, precisa proteger? E o que as pessoas devem valorizar, apesar de parecerem ignorar?

Estabelecer valores humanos e capacidades exclusivamente humanas é de vital importância ao treinar grandes modelos de linguagem (LLMs): as pessoas precisam encontrar algum grau de alinhamento em termos do que constitui um “bom padrão” e, portanto, vale a pena ser reproduzido em escala. Ao contrário dos seres humanos, uma IA não consegue avaliar ainda se os padrões que está replicando são...