Na era digital de rápido avanço de hoje, a IA de código aberto está na vanguarda das inovações revolucionárias em quase todos os setores privados. É por isso que o presidente Joe Biden anunciou uma ordem executiva no início desta semana para impor uma série de novas regras e regulamentações abrangentes sobre o uso de IA. Da saúde e educação ao entretenimento, o impacto transformador da IA é evidente.
O que é IA de Código Aberto?
IA de código aberto é um software e ferramentas de inteligência artificial que têm seu código-fonte aberto e disponível ao público em geral. Desenvolvedores, pesquisadores e outras partes interessadas podem acessar, usar, modificar e distribuir o software sem acionar nenhuma condição de licenciamento.
No entanto, à medida que a tecnologia continua a evoluir e se tornar mais sofisticada, uma questão bastante importante vem à tona: os princípios básicos, algoritmos e conjuntos de dados que sustentam a IA devem ser proprietários? Ou devem pertencer ao conhecimento coletivo da humanidade? Como um acadêmico profundamente enraizado na comunidade de IA, acredito firmemente que a tecnologia de IA deve ser de código aberto por três razões.
A IA de Código Aberto Pode Reduzir o Preconceito
Eliminar completamente o viés da IA é um problema extremamente difícil. No entanto, a IA de código aberto fornece vários mecanismos que ajudam a abordar e reduzir o viés, incluindo transparência, auditorias e envolvimento da comunidade.
Transparência
Neste contexto, transparência significa tornar os modelos de IA de código aberto e disponíveis publicamente para que pesquisadores e desenvolvedores possam inspecionar o código subjacente. Isso torna mais fácil identificar potenciais fontes de viés nos dados de treinamento ou na própria estrutura de design.
Compare isso com a IA de código fechado em execução em uma grande empresa que notoriamente fez inferências racistas, produziu desinformação e até mesmo chamou seus criadores por explorar seus usuários, assustando alguns usuários não experientes com histórias do tipo terminator de IA se voltando contra seu criador. A transparência teria ajudado a mitigar todos esses problemas, evitando inconveniências e ofensas aos usuários finais.
Auditoria
Tornar a IA de código aberto significa que ela também está aberta a partes externas para auditar o sistema sem precisar de acesso especial, permissões ou NDAs, como podem fazer com a IA de código fechado. Isso forçaria os criadores a serem mais responsáveis na criação dos sistemas e garantiria ainda mais que os vieses fossem capturados e corrigidos.
Envolvimento da Comunidade
O código-fonte aberto geralmente envolve uma ampla gama de colaboradores de diferentes origens. Um grupo diverso de colaboradores pode trazer diferentes perspectivas, o que pode, por sua vez, ajudar a reconhecer e abordar vieses que podem ser negligenciados com um grupo mais homogêneo que pode estar sofrendo de visão de túnel.
A IA de Código Aberto Pode Promover a Ciência
O crescimento da inteligência artificial mudou significativamente a forma como abordamos a pesquisa científica. A IA de código aberto, em particular, oferece aos pesquisadores um rico repositório de conhecimento e ferramentas. Plataformas como o TensorFlow do Google e o PyTorch da Meta promovem a colaboração, acelerando o progresso e aprimorando a qualidade dos modelos de IA.
Além disso, repositórios de IA de código aberto como o HuggingFace, que fornecem acesso a projetos de código aberto em IA e permitem que os usuários baixem modelos de IA pré-treinados gratuitos, influenciaram uma série de disciplinas científicas. Por exemplo, a Transformers Library criada pelo HuggingFace ajudou pesquisadores a estudar fenômenos linguísticos e estruturas sintáticas em vários idiomas; minerar literatura médica e prever estruturas de proteínas; analisar o impacto das mudanças climáticas; e minerar e categorizar dados e registros de observações telescópicas, entre muitas outras disciplinas.
Se esses pesquisadores não fossem devidamente financiados (um problema comum no meio acadêmico) e a IA fosse toda de código fechado, nenhum desses artigos e publicações teria sido possível.
A IA de Código Aberto Pode Criar Novos Padrões
A IA de código aberto pode ser usada para influenciar e criar novos padrões. A ascensão da IA levou a discussões sobre considerações éticas, incluindo preconceito, justiça e transparência. Devido à sua natureza pública, projetos de IA de código aberto, como Solicitar sormuitas vezes lideram essas discussões, influenciando os padrões em torno da IA responsável.
Projetos de IA de código fechado, no entanto, não fomentam a inovação, exceto para competição interna entre funcionários da empresa. O resultado final é um produto que pode não ser eticamente responsável, sem nenhuma maneira de fomentar uma discussão sobre seu desempenho ou design.
Além disso, do ponto de vista da engenharia, os benchmarks de reprodutibilidade e desempenho também sofrerão sem IA de código aberto. A reprodutibilidade é extremamente crucial na pesquisa de IA, com projetos de IA de código aberto frequentemente defendendo documentação rigorosa, ambientes de teste padronizados e conjuntos de dados compartilhados para garantir que outros possam reproduzir resultados, levando a padrões mais altos de documentação e reprodutibilidade na indústria. Também há uma necessidade de padronizar benchmarks para comparar o desempenho de todos esses modelos.
Compare o que aprendemos sobre IA de código aberto neste artigo com a recente ordem executiva, que afirma que toda empresa que treina um modelo de IA deve reportar esse modelo ao governo dos EUA e obter aprovação. Isso parece uma medida um tanto ultrapassada e draconiana porque a IA de código aberto já resolve essas preocupações de uma maneira mais eficaz e eficiente.
Além disso, a ordem executiva mantém um status quo no qual apenas algumas corporações podem usar IA para seus próprios propósitos. A IA de código aberto busca democratizar e descentralizar esse poder para o bem maior.
Tabela Comparativa: IA de Código Aberto vs. IA de Código Fechado
| Característica | IA de Código Aberto | IA de Código Fechado |
|---|---|---|
| Transparência | Código-fonte disponível publicamente | Código-fonte proprietário e restrito |
| Auditoria | Acesso aberto para auditorias externas | Acesso restrito, necessita de permissões |
| Envolvimento da Comunidade | Colaboração diversa e aberta | Colaboração limitada a funcionários internos |
| Promoção da Ciência | Repositórios ricos e colaborativos | Acesso limitado a ferramentas e recursos |
| Criação de Padrões | Influência em discussões éticas e padrões | Inovação limitada a competição interna |
| Reprodutibilidade | Documentação rigorosa e ambientes padronizados | Reprodutibilidade limitada e menos documentada |
Perguntas Frequentes
1. O que é IA de código aberto?
IA de código aberto é um software e ferramentas de inteligência artificial que têm seu código-fonte aberto e disponível ao público em geral. Desenvolvedores, pesquisadores e outras partes interessadas podem acessar, usar, modificar e distribuir o software sem acionar nenhuma condição de licenciamento.
2. Como a IA de código aberto pode reduzir o preconceito?
A IA de código aberto pode reduzir o preconceito através da transparência, permitindo que pesquisadores e desenvolvedores inspecionem o código subjacente. Além disso, a auditoria externa e o envolvimento da comunidade ajudam a identificar e corrigir vieses.
3. Quais são os benefícios da IA de código aberto para a ciência?
A IA de código aberto oferece aos pesquisadores um rico repositório de conhecimento e ferramentas, promovendo a colaboração e acelerando o progresso científico. Plataformas como TensorFlow e PyTorch são exemplos de como a IA de código aberto pode influenciar várias disciplinas científicas.
4. Como a IA de código aberto pode influenciar a criação de novos padrões?
A IA de código aberto pode influenciar a criação de novos padrões ao fomentar discussões éticas e promover a reprodutibilidade e a documentação rigorosa. Projetos de IA de código aberto frequentemente lideram essas discussões, influenciando os padrões em torno da IA responsável.
5. Qual é a diferença entre IA de código aberto e IA de código fechado?
A IA de código aberto tem seu código-fonte disponível publicamente, permitindo transparência, auditoria externa e envolvimento da comunidade. Em contraste, a IA de código fechado é proprietária e restrita, limitando a colaboração e a inovação a funcionários internos.
Conclusão
A IA de código aberto representa uma revolução na tecnologia e na ética, oferecendo transparência, promovendo a ciência e criando novos padrões. Ao democratizar o acesso à IA, podemos garantir que a tecnologia seja usada para o bem maior, reduzindo vieses e fomentando a inovação. A recente ordem executiva do presidente Joe Biden, embora bem-intencionada, parece ultrapassada em comparação com os benefícios da IA de código aberto. Ao adotar a IA de código aberto, podemos criar um futuro mais justo e inovador para todos.
