Divya Siddarth é economista política e tecnóloga social, quando não está em seu trabalho na Microsoft, ela gerencia o Collective Intelligence Project. Co-criadora do projeto, ela foca no avanço das capacidades de inteligência coletiva a fim de transformar a governança tecnológica. O mais essencial aqui é perceber o quanto ela acredita em um mundo onde a tecnologia beneficia as pessoas, e usa seu conhecimento para moldar esse futuro. Vamos falar sobre democracia e tecnologia.
Enquanto muitos vêem a democracia como um problema, ela a vê como solução. Seu Ted Talk foi lançado em novembro de 2023 e chegou em um momento importante, no qual se debate tanto sobre inteligência artificial generativa e seus impactos na dinâmica social e política – vide lançamento do GPT-4o.
Elaboramos um pouco mais sobre seu Ted Talk aqui não só pela relevância do tema, mas também por seus insights que trazem uma nova perspectiva para olhares às vezes tão negativos.
A Revolução Democrática na Era da Inteligência Artificial
A democracia já foi um projeto político radical, uma tecnologia social inovadora, uma nova forma de responder à pergunta que enfrentamos agora: como usamos nossas capacidades para viver bem juntos?
Tecnologias transformadoras como a IA são frequentemente vistas como complicadas demais, arriscadas demais ou importantes demais para serem governadas democraticamente. No entanto, é precisamente por isso que precisam ser governadas dessa forma. Em outras palavras, Siddarth defende que se a democracia existente não está à altura da tarefa, o trabalho não é abandoná-la, mas evoluí-la, usando a tecnologia como uma aliada.
Divya Siddarth percebeu que as tecnologias que realmente faziam a diferença eram aquelas construídas com e para o coletivo. Projetos que combinam a criação de algo novo com maneiras para as pessoas acessarem, se beneficiarem e direcionarem essas inovações são os que realmente importam.
Democracia e Tecnologia: Um Casamento Necessário
O ponto aqui é entender que:
“a tecnologia expande nossas capacidades, enquanto a democracia nos permite decidir o que fazer com elas.”
Desde então, Divya trabalhou em diversos países, incluindo Índia, EUA e Reino Unido, usando a democracia para enfrentar desafios como a COVID-19 e os direitos de dados. Agora, está aplicando esses princípios à governança da IA.
Ela vê a democracia como uma criança, uma forma inicial de inteligência coletiva, uma maneira de reunir contribuições descentralizadas de diversas fontes para produzir decisões melhores do que a soma de suas partes. E, ao acreditar nisso, criou seu projeto, incorporando as vozes de milhares de pessoas na governança da IA.
Lições Aprendidas na Governança da IA
A primeira descoberta surpreendente é que pessoas estão dispostas e são capazes de ter conversas complexas sobre tópicos difíceis, elas não se conformam com respostas fáceis e óbvias. Entre mais de 100 riscos citados, o mais mencionado foi a dependência excessiva de sistemas que não entendemos. A segunda descoberta é que, ao contrário do que se espera, as pessoas viram pouca polarização, vendo a IA como uma forma de proteger a liberdade de expressão.
Para Divya, a tecnologia não nos limita. E é por isso que seu projeto está trabalhando em modelos de copropriedade para os dados nos quais a IA é construída, usando a IA para criar novos e melhores processos de tomada de decisão. Parece um pouco com o que já vimos que a IA pode fazer quando aplicada, por exemplo, a times jurídicos.
E para provar que essa união é possível, Divya e a Ministra Audrey Tang, de Taiwan, estão envolvendo pessoas e usando essa contribuição para legislar e construir novas soluções. O resultado são pessoas engajadas nessa ideia de opção pública para a IA, construída com dados públicos compartilhados, segura e ajustável às necessidades das comunidades.
Afinal, para ela, progresso, segurança e participação democrática são interdependentes, levantando o ponto que é possível construir modelos democráticos de IA de ponta, usando a expertise pública para entender riscos difusos.
Precisamos entender que, sim, novas tecnologias trazem novos paradigmas. Mas isso não é negativo, significa que temos a oportunidade de criar novas formas de viver bem juntos. Precisamos aproveitar as brechas para produzir uma mudança.
Sem letras miúdas, estamos afirmando que o mundo da tecnologia pode ser guiado por todos nós, para o benefício de todos nós. Através da democracia, podemos decidir coletivamente como queremos que a tecnologia impacte nossas vidas, garantindo que ela seja usada de maneira justa e eficaz. Quase parece um sonho – mas é a pura realidade que já está sendo provada.
Assista ao TED TALK
