A IA pode ajudar a moldar a sociedade para melhor

Oct 26, 2023

A colaboração, em vez do comando e controle, é fundamental para a criação de sistemas cultural e eticamente positivos

Uma das primeiras imagens de IA que encontrei foi uma cabeça branca, espectral, hostil e sem corpo. Foi no jogo de computador Neuromancer, programado por Troy Miles e baseado no romance cyberpunk de William Gibson. Outras pessoas podem ter encontrado pela primeira vez HAL 9000 de 2001: Uma Odisséia no Espaço, de Stanley Kubrik, ou Samantha, de Her, de Spike Jonze.

As imagens da cultura pop influenciam as impressões das pessoas sobre a IA, mas a cultura tem uma relação ainda mais profunda com ela. Se há algo a retirar deste artigo, é a ideia de que os sistemas de IA não são máquinas objetivas, mas sim baseados na cultura humana: os nossos valores, normas, preferências e comportamentos na sociedade. Esses aspectos da nossa cultura refletem-se na forma como os sistemas são projetados. Portanto, em vez de tentar decidir se os sistemas de IA são objectivamente bons ou maus para a sociedade, precisamos de os conceber de modo a reflectirem a cultura eticamente positiva que realmente desejamos.

Aqui está um exemplo: Roger Dannenberg, professor da Carnegie Mellon University em Pittsburgh, criou um sistema de IA que toca música com as pessoas. Acompanha intérpretes com base em ideias de altura, escala, andamento e assim por diante, que poderiam ser chamadas de facetas da teoria musical ocidental. Em contraste, o compositor e académico George E Lewis, proveniente de uma tradição baseada na diáspora africana – jazz e outras tradições, alimentadas pela Associação para o Avanço da Música Criativa de Chicago – criou um sistema chamado Voyager que é um “sistema não hierárquico e interactivo”. ambiente musical que privilegia a improvisação”. Os resultados são muito diferentes. O sistema de Dannenberg produz resultados que são eficazes no acompanhamento de um artista convencional – parece que atinge as notas esperadas. O sistema de Lewis, por outro lado, gera surpresas no diálogo com o intérprete, às vezes fazendo um solo, às vezes fazendo um layout enquanto os solos humanos – nem o humano nem a máquina dominam.

O som da Voyager está em algum lugar entre o do grande jazz de vanguarda Sun Ra e um conjunto de gamelão javanês. Os valores de cada sistema são baseados nas culturas das quais os músicos e programadores se baseiam: controle mensurável versus colaboração improvisada, criando diferenças importantes no resultado de cada sistema.

Hoje em dia, os sistemas de IA desempenham funções na geração de textos e imagens, no diagnóstico de doenças e até mesmo em sistemas de armas autônomos. Poderíamos fazer de tais sistemas seguidores de humanos ou suportes criativos para humanos; podemos encarar a relação entre a máquina e o ser humano como baseada no comando e controlo – ou como baseada na colaboração, descobrindo o que as pessoas fazem melhor e o que o computador faz melhor para que possam trabalhar em conjunto de forma frutuosa. Ambas as abordagens têm o seu lugar – mas sinto que actualmente a última abordagem é menos conhecida e menos adoptada. A criação de sistemas de IA baseados em muitas culturas diferentes, com diretrizes éticas adequadas, pode ajudar a corrigir esta situação.

As pessoas podem projetar sistemas de computação intencionalmente com os valores e visões de mundo que desejamos. Por exemplo, o Centro de Virtualidade Avançada do MIT, que fundei e dirijo, construiu simulações como Breakbeat Narratives, uma colaboração com o Universal Hip Hop Museum e a Microsoft. O sistema utiliza as tecnologias do nosso centro, personagens criados com os artistas de quadrinhos Black Kirby, IA conversacional da Microsoft e conteúdo de arquivo musical da Fundação Educacional TunesMap para ensinar a história do hip-hop de acordo com os gostos e interesses musicais do usuário. Por exemplo, se você gosta de música de raiz e está interessado em artistas femininas de hip-hop, você pode obter um pequeno documentário sobre a auto-representação das mulheres no hip-hop que tem uma trilha sonora de músicas de hip-hop com samples do country e do western. e grama azul.

Também tive o prazer de colaborar com o fotojornalista de guerra e artista de VR Karim Ben Khelifa em um projeto que ele dirigiu chamado The Enemy, que permitiu aos espectadores ouvirem jornalisticamente as perspectivas dos combatentes de ambos os lados dos conflitos na República Democrática do Congo, El Salvador. e Gaza – ao mesmo tempo que personaliza a experiência com base na linguagem corporal dos utilizadores como um substituto para os seus potenciais preconceitos e atenção.