A OpenAI lançou o programa de bolsas Insumos Democráticos para IA em maio, para explorar como métodos democráticos poderiam ser usados para governar sistemas de IA.
O programa atraiu quase 1.000 inscrições de 113 países, e 10 equipes foram finalmente premiadas com um total de $100.000 para projetar, construir e testar suas ideias.
Essas equipes, provenientes de diversos backgrounds e experiências, desenvolveram vários projetos que variaram de interfaces inovadoras de deliberação em vídeo a plataformas para auditorias crowdsourced de modelos de IA.
Um dos temas centrais do programa foi o desafio de recrutar participantes diversos e produzir resultados que representem uma ampla gama de pontos de vista.
As equipes abordaram esses desafios usando abordagens inovadoras, como cartões de processo, relatórios de execução e dias de demonstração para compartilhar ideias.
Notavelmente, a IA desempenhou um papel útil nesses processos, auxiliando em tarefas como transcrição de voz para texto e síntese de dados.
As lições aprendidas com o programa são inestimáveis.
As equipes observaram que a opinião pública sobre questões de IA pode mudar rapidamente, sugerindo a necessidade de processos de coleta de entrada frequentes e dinâmicos.
Superar a divisão digital continua sendo um desafio, assim como encontrar um acordo dentro de grupos polarizados. As equipes também notaram a tensão entre alcançar consenso e representar opiniões diversas.
Olhando para frente, a OpenAI planeja construir sobre esse ímpeto projetando um processo de ponta a ponta para coletar insumos externos e usá-los para moldar o comportamento do modelo de IA.
A formação de uma equipe de “Alinhamento Coletivo”, composta por pesquisadores e engenheiros, liderará esse esforço.
Esta equipe se concentrará na implementação de sistemas para entrada pública e na integração de protótipos de bolsas nos modelos da OpenAI.
No geral, o programa de bolsas Insumos Democráticos para IA representa uma iniciativa inovadora na busca de sistemas de IA mais inclusivos e governados democraticamente.
O compromisso da OpenAI em aprender com esses experimentos e incorporar as percepções em seu trabalho futuro é um passo promissor em direção ao alinhamento da IA com os valores e necessidades de uma comunidade global diversificada.