A segurança da inteligência artificial (IA) é um campo que ganhou destaque significativo nos últimos anos, especialmente com o lançamento de tecnologias inovadoras como o ChatGPT. Desde os primeiros dias da computação, as preocupações com a segurança da IA têm sido uma constante, mas agora, com o boom da IA generativa, essas questões se tornaram ainda mais urgentes. A segurança da IA envolve a construção de sistemas que operem conforme projetado, sem causar danos, e é um campo interdisciplinar que abrange políticas governamentais, diretrizes éticas e salvaguardas técnicas.
Ações estão sendo tomadas em várias frentes para garantir a segurança da IA. Cúpulas globais de segurança de IA são realizadas anualmente, reunindo especialistas da indústria e legisladores para discutir regulamentações e melhores práticas.
Governos ao redor do mundo, incluindo a União Europeia, os Estados Unidos e o Brasil, começaram a regulamentar o desenvolvimento e o uso da IA. Empresas proeminentes como OpenAI, Microsoft e Google também fizeram da segurança uma prioridade interna, comprometendo-se a desenvolver a IA de forma responsável.
No entanto, os desafios são contínuos. Os sistemas de IA ainda exibem comportamentos imprevisíveis, tomam decisões tendenciosas e são vulneráveis à exploração. À medida que a tecnologia avança, novos riscos surgem, tornando a segurança da IA um processo contínuo.
Como afirmou Akshay Sharma, diretor de IA da empresa de tecnologia de saúde Lyric, “a segurança perfeita de IA não existe. Sempre haverá ataques aos sistemas, então você tem que continuar a melhorá-los. É um jogo de melhorias constantes por meio de ameaças.”
O que é Segurança de IA?
A segurança de IA é um campo dedicado a garantir que a inteligência artificial seja construída e usada de forma responsável. Ela abrange várias estratégias, incluindo políticas governamentais, diretrizes éticas e salvaguardas técnicas. O objetivo é desenvolver modelos de IA que sejam confiáveis, transparentes e operem conforme projetado, mitigando riscos como uso malicioso, decisões tendenciosas, violações de privacidade e ameaças de IA superinteligente.
“Construir um sistema de IA e simplesmente deixá-lo rodar é como dirigir um carro em chuva forte sem limpadores. Você pode dirigir, mas não é sem riscos”, disse Sharma. “A segurança da IA tem tudo a ver com colocar essas proteções, ter aquele limpador quando começa a chover forte.”
Preocupações com a Segurança da IA
A inteligência artificial traz consigo muitas preocupações de segurança, tanto em termos de como opera quanto de como é usada. Estas são algumas das mais comuns:
Falta de Confiabilidade
Os sistemas de IA frequentemente falham em executar suas funções pretendidas consistentemente sob diversas condições. Isso pode acontecer por uma variedade de razões, mas normalmente é devido a algo que deu errado no processo de treinamento. Os dados de treinamento podem estar incorretos ou incompletos, ou o modelo pode ter sido treinado muito de perto em um conjunto de dados específico, fazendo com que ele tenha um desempenho ruim em cenários desconhecidos.
“O ponto principal é apenas fazer com que esses sistemas façam o que você realmente diz para eles fazerem. No momento, isso por si só é um problema extremamente difícil”, disse Leonard Tang, cofundador e CEO da empresa de segurança de IA Haize Labs. “Os problemas de segurança são complicados pelo quão pouco confiáveis esses modelos subjacentes são em primeiro lugar.”
AI Bias
Mesmo quando os modelos de IA funcionam conforme o pretendido tecnicamente, seus resultados ainda podem conter vieses prejudiciais. Se os dados usados para treinar um modelo forem limitados ou favorecerem um grupo específico de pessoas ou cenários, ele poderá ter dificuldades com entradas novas ou diversas, levando a generalizações imprecisas e saídas problemáticas.
A IA tendenciosa pode ser particularmente preocupante em campos de alto risco como bancos, recrutamento de empregos e justiça criminal, onde as decisões tomadas por esses sistemas podem afetar profundamente a vida das pessoas. Por exemplo, algoritmos de contratação usados para selecionar candidatos mostraram preconceito contra indivíduos com deficiências e outros grupos protegidos.
Da mesma forma, ferramentas de IA usadas por credores cobraram milhões de dólares a mais de pessoas de cor que buscam empréstimos imobiliários. Na aplicação da lei, o software de reconhecimento facial levou a várias prisões falsas, afetando desproporcionalmente homens negros.
Alucinações de IA
Alucinações ocorrem quando um sistema de IA gera informações falsas, enganosas ou ilógicas, mas as apresenta de forma tão coerente e lógica que pode ser confundido como verdade. Eles são mais comumente associados a chatbots de IA e geradores de texto, que produzem cópias que imitam a escrita humana. Mas essas ferramentas não têm uma compreensão real da realidade que estão descrevendo — elas preveem qual será a próxima palavra, frase e parágrafo com base na probabilidade, não na precisão.
“Não é um mecanismo de busca, então não está lhe dizendo nada que seja verificado em relação à realidade. Está apenas lhe dizendo sentenças prováveis, que às vezes são completamente falsas”, disse Ted Vial, que supervisiona o desenvolvimento do TRUST AI Framework na Iliff School of Theology.
Violações de Privacidade
Os sistemas de IA exigem grandes quantidades de dados para funcionar corretamente. Esses conjuntos de dados geralmente incluem informações pessoais de indivíduos, como seus detalhes de contato, registros financeiros e histórico médico — todos os quais são suscetíveis a violações de dados caso o sistema seja atacado.
Às vezes, os desenvolvedores de IA vasculham a web em busca de dados para alimentar seus modelos, o que significa que tudo — das fotos que as pessoas postam no Instagram às conversas que elas têm no Reddit — está disponível para captura. Essa prática levanta preocupações sobre privacidade e consentimento, pois as pessoas geralmente acham desafiador optar por não participar dessa coleta de dados ou remover suas informações depois que elas foram coletadas.
“Na IA, o nome do jogo é coletar o máximo de dados possível para construir esses modelos gigantes. E as pessoas que estão fazendo a coleta não estão realmente preocupadas com quem é o dono dos dados ou com a privacidade das pessoas”, disse Vial. “Existem alguns bons protocolos de coleta de dados, mas as pessoas precisam insistir neles. As empresas que estão ganhando dinheiro não vão fazer isso sozinhas.”
Uso Malicioso
Os sistemas de IA (particularmente os sistemas de IA generativos) podem ser usados como armas para todos os tipos de formas sofisticadas de engano e dano.
“A IA é uma tecnologia arriscada”, disse Brian Green, diretor de ética tecnológica do Markkula Center for Applied Ethics da Universidade de Santa Clara. “É arriscada porque os humanos a usam para propósitos malignos.”
Deepfakes — vídeos e clipes de áudio realistas fabricados de pessoas reais — são usados para manipular a opinião pública sobre coisas como guerras e eleições políticas. E grandes modelos de linguagem são usados para disseminar desinformação em escala, gerando artigos de notícias falsas e postagens em mídias sociais que amplificam propaganda e narrativas enganosas. Essa tecnologia ajuda a automatizar ataques cibernéticos como phishing e-mails e golpes de chamadas automáticas que são quase impossíveis de detectar.
Uso de Armas Autônomas Letais
Um dos usos mais controversos da IA é em armas autônomas letais (LAWs), que são sistemas de inteligência artificial que localizam e destroem alvos por conta própria com base em instruções e restrições pré-programadas. Essa tecnologia está sendo construída por alguns dos exércitos mais poderosos do mundo — incluindo os Estados Unidos, China, Israel e Rússia — e já está sendo usada em conflitos ao redor do mundo.
Alguns (como o governo dos EUA) argumentam que, se usadas apropriadamente, as LAWs podem salvar vidas de civis e soldados, mas outros não acham que valem o risco. Essa tecnologia representa um grande risco à vida civil, de acordo com alguns especialistas, e pode até violar o Direito Internacional Humanitário.
As Nações Unidas têm repetidamente apelado para uma proibição global total de todas as LAWs que funcionam sem controle humano, considerando-as “politicamente inaceitáveis” e “moralmente repugnantes”. Mas países como os Estados Unidos, a Rússia, Israel e o Reino Unido opuseram-se a tal proibição.
Catástrofes Existenciais
Alguns acham que os sistemas de IA podem um dia atingir a inteligência geral artificial — e até mesmo a superinteligência — o que significa que eles atendem e superam a capacidade dos humanos de aprender, pensar e executar tarefas. Enquanto alguns acreditam que isso traria enormes benefícios para a sociedade, muitos se preocupam que isso poderia levar a uma série de outras catástrofes irreversíveis. Esse tipo de IA avançada poderia se libertar de todo o controle humano e dominar o mundo.
Essas preocupações ficaram mais altas em meio ao rápido avanço da IA. Uma pesquisa de 2022 com pesquisadores de IA revelou que a maioria acreditava que há pelo menos 10% de chance de os humanos serem extintos por nossa incapacidade de controlar a IA.
E em 2023, centenas de líderes da indústria assinaram uma declaração declarando que “mitigar o risco de extinção da IA” deveria ser uma “prioridade global”, comparando-a a outros riscos em larga escala, como pandemias e guerra nuclear.
“A maneira de evitar isso é trabalhar nas porcas e parafusos da IA ética agora, em vez de tentar criar algum sistema daqui a dez anos”, disse Vial. “Concentre-se em torná-los imparciais, faça-os proteger melhor nossa privacidade. E à medida que continua a construir de uma boa maneira, essas outras coisas não serão mais um problema.”
Soluções de Segurança de IA
As preocupações com a segurança da IA estão sendo abordadas de diversas maneiras diferentes:
Regulamentação Governamental
Governos ao redor do mundo reconhecem os riscos impostos pela IA e tomaram medidas para lidar com eles. Isso inclui criar organizações dedicadas como os AI Safety Institutes nos EUA e no Reino Unido, bem como promulgar legislação.
O AI Act da União Europeia classifica os sistemas de IA com base em seus níveis de risco e impõe requisitos rigorosos para garantir seu uso seguro e ético. Os Estados Unidos não têm nenhuma lei federal nos livros que limite explicitamente o uso de IA ou regule seus riscos (pelo menos não ainda), mas várias agências federais emitiram diretrizes para o uso de IA em seus setores específicos, incluindo a Federal Trade Commission, o Department of Defense e o US Copyright Office.
Enquanto isso, dezenas de estados aprovaram ou estão trabalhando em suas próprias leis de IA que dizem respeito a tudo, desde a contratação para seguro. A Califórnia também está prestes a promulgar o que pode ser uma das peças mais abrangentes de legislação de segurança de IA do país.
A regulamentação é crucial para garantir que a IA seja desenvolvida e usada com segurança, Vial explicou, pois define padrões claros para responsabilidade, práticas éticas e gerenciamento de risco, mitigando o uso indevido e danos não intencionais. “As empresas não têm um bom histórico de autorregulamentação, então acho que a regulamentação é absolutamente crítica”, disse ele.
Guarda-corpos
Em alguns casos, as empresas criaram barreiras em torno de seus produtos de IA, impedindo que as pessoas os utilizem de maneiras perigosas.
Por exemplo, a Anthropic criou um método de treinamento chamado “IA constitucional”, onde princípios éticos são usados para orientar as saídas de seus modelos para que sejam menos propensas a serem prejudiciais ou usadas maliciosamente.
E geradores de imagens como o DALL-E 3 não criarão imagens de figuras públicas pelo nome, mitigando o risco de fazer conteúdo enganoso ou enganoso. O OpenAI também tem sistemas de detecção integrados que fla g ou restringir usuários com base em suas atividades.
“Nenhuma empresa no mundo deveria ser capaz de usar um sistema algorítmico sem evidenciar que eles o gerenciaram em termos de risco”, disse Emre Kazim, cofundador e co-CEO da empresa de governança de IA Holistic AI. “É sobre ter sistemas que não desapareçam sem licença.”
IA Explicável
Alguns pesquisadores e desenvolvedores de IA se esforçam para tornar os modelos de IA mais transparentes e explicáveis, fornecendo insights mais claros sobre como e por que eles chegam a resultados específicos para que possam corrigir comportamentos indesejados.
Notavelmente, uma equipe da Anthropic fez engenharia reversa vários grandes modelos de linguagem e mapearam suas redes neurais internas para entender melhor o raciocínio por trás das respostas geradas, alegando um progresso significativo.
Supervisão de Especialistas
A supervisão humana é uma parte importante da manutenção da segurança da IA, especialmente quando esses humanos são especialistas do setor. Eles testam rigorosamente instâncias de viés, imprecisões e outros problemas que podem passar despercebidos pelo usuário médio, garantindo que esses sistemas sejam mais robustos e confiáveis.
“Você pode construir rapidamente um modelo que, para um leigo, parece inteligente o suficiente. Mas um especialista é capaz de encontrar os erros que ele comete”, disse Sharma, da Lyric. “A única maneira de esses modelos e sistemas de IA melhorarem é se houver um especialista realmente dando feedback.”
E à medida que os modelos de IA se tornam mais complexos e capazes, a supervisão especializada se torna ainda mais essencial para garantir que esses sistemas sigam sua programação original e se alinhem aos valores sociais.
“Acho que chegará um momento em que a IA superará algum nível de expertise em alguns lugares”, disse Sharma. “É quando a segurança se torna ainda mais crítica.”
Por que a Segurança da IA é Importante?
De recomendações personalizadas em plataformas de streaming a chatbots de atendimento ao cliente, a IA molda sutilmente nossas experiências cotidianas. Mais criticamente, essa tecnologia é implantada em áreas de alto risco, como assistência médica e segurança nacional.
A importância da segurança da IA está em seu potencial para mitigar as consequências não intencionais que vêm com a ubiquidade da tecnologia. Uma ferramenta de recrutamento alimentada por IA pode inadvertidamente ignorá-lo para um emprego por causa de seu gênero ou raça; um carro autônomo pode cometer um erro de fração de segundo que o fere; um e-mail de phishing convincente gerado por IA pode enganá-lo em milhares de dólares.
Ao lidar com questões de segurança como preconceito, alucinações e uso malicioso, a sociedade pode aproveitar todos os benefícios que a inteligência artificial traz, minimizando os danos que ela pode causar.
“A IA estará em todo lugar”, Green disse. “Se quisermos viver num futuro feliz e não num futuro horrível, precisamos de trabalhar arduamente [safety] agora mesmo.”
Perguntas Frequentes
1. O que é segurança de IA?
A segurança de IA é um campo dedicado a garantir que a inteligência artificial seja construída e usada de forma responsável. Ela abrange várias estratégias, incluindo políticas governamentais, diretrizes éticas e salvaguardas técnicas.
2. Por que a segurança de IA é importante?
A segurança de IA é crucial para mitigar as consequências não intencionais que vêm com a ubiquidade da tecnologia. Ela ajuda a garantir que a IA opere conforme projetado, sem causar danos.
3. Quais são as principais preocupações com a segurança de IA?
As principais preocupações incluem falta de confiabilidade, vieses de IA, alucinações de IA, violações de privacidade, uso malicioso, uso de armas autônomas letais e catástrofes existenciais.
4. Como as empresas estão abordando a segurança de IA?
As empresas estão abordando a segurança de IA através de regulamentação governamental, guarda-corpos, IA explicável e supervisão de especialistas.
5. Como a regulamentação governamental pode ajudar na segurança de IA?
A regulamentação governamental pode ajudar na segurança de IA definindo padrões claros para responsabilidade, práticas éticas e gerenciamento de risco, mitigando o uso indevido e danos não intencionais.
Conclusão
A segurança da inteligência artificial é um campo complexo e dinâmico que requer uma abordagem interdisciplinar para garantir que essa tecnologia seja desenvolvida e utilizada de forma responsável. As preocupações com a segurança de IA são variadas e incluem questões como falta de confiabilidade, vieses, alucinações, violações de privacidade, uso malicioso, armas autônomas letais e catástrofes existenciais. Para abordar essas preocupações, várias soluções estão sendo implementadas, incluindo regulamentação governamental, guarda-corpos, IA explicável e supervisão de especialistas.
A importância da segurança de IA não pode ser subestimada, pois essa tecnologia está cada vez mais integrada em nossas vidas diárias e em áreas críticas como assistência médica e segurança nacional. Ao lidar com questões de segurança, como preconceito, alucinações e uso malicioso, a sociedade pode aproveitar todos os benefícios que a inteligência artificial traz, minimizando os danos que ela pode causar. A regulamentação governamental é crucial para definir padrões claros para responsabilidade, práticas éticas e gerenciamento de risco, mitigando o uso indevido e danos não intencionais.
Em resumo, a segurança de IA é um processo contínuo que exige vigilância constante e melhorias. As empresas e governos estão tomando medidas para garantir que a IA seja desenvolvida e usada de forma responsável, mas ainda há muito trabalho a ser feito. A colaboração entre especialistas da indústria, legisladores e a sociedade em geral é essencial para criar um futuro onde a IA seja uma força para o bem, e não uma ameaça.
