Todas as nossas dúvidas ao criar qualquer nova tecnologia devem estar focadas em como a solução trará mais bem-estar ao indivíduo e à sociedade, afirma Selam Moges, engenheiro de software da Apella (foto: Maria Maltseva/TechNews.bg)
O desenvolvimento de sistemas de TI apresenta desafios para o mundo tecnológico porque traça novos limites para a ética na criação de aplicações. Este é um aspecto ao qual não pensamos o suficiente ao projetar qualquer novo sistema de TI.
Quais são as implicações para todas as pessoas na sociedade quando concebemos uma aplicação? Todos se sentirão melhor? Como a nova maravilha tecnológica afetará o senso de comunidade? E o meio ambiente? Não haverá alguém que se sinta humilhado, insultado, negligenciado?
Deveríamos nos fazer essas perguntas antes de lançar qualquer novo aplicativo ou outra nova tecnologia, ele insistiu. Selam Mogesengenheiro de software da empresa de dispositivos médicos Apella, durante sua apresentação na conferência DevReach 2023organizado pela Progress no Centro de Eventos de Sofia.
Todas as nossas questões durante a criação de qualquer nova tecnologia devem estar focadas em como a solução trará mais bem-estar ao indivíduo e à sociedade, destacou Moges.
Vamos imaginar o scanner de segurança do aeroporto. Todos nós temos que passar por isso para entrar no nosso avião. Mas às vezes ele começa a gritar de repente e todo mundo se vira, disse Moges. O motivo pode ser qualquer coisa, por exemplo uma base de metal no botão da calça – mas o resultado é que o passageiro fica preocupado, todos olham para ele, a confusão se instala. São situações de constrangimento e desconforto como essa que precisamos estar atentos ao projetar qualquer nova tecnologia, disse Moges.
Hoje, este é um desafio particularmente grande porque a inteligência artificial é cada vez mais utilizada, mas não tem considerações éticas. Se um sistema policial, por exemplo, tende a tornar as pessoas de cor mais propensas a serem criminosas, isso já é uma distorção que não deve ser tolerada.
Os desafios da IA vão muito além do concebível e as suas consequências serão a longo prazo, deixou clara a mensagem do engenheiro de software. Por exemplo, muitas pessoas já utilizam algoritmos generativos para criar conteúdo textual e visual, mas ainda não existem políticas para regular o trabalho da inteligência artificial. E isto cria conflitos, por exemplo no domínio dos direitos de autor. Mesmo se assumirmos que um quadro regulamentar adequado surgirá hoje, já existem milhões de trabalhos gerados no período desde a criação de aplicações de IA como o DALL-E até hoje.
A força motriz por trás da criação de qualquer nova tecnologia deve ser uma boa experiência do usuário que não cause frustração ou ofensa. Existem pelo menos duas razões para isso. A primeira é a má experiência do usuário: quando as pessoas se sentem mal por trabalhar com um sistema, elas não vão querer usar a tecnologia. O segundo argumento é o custo. Qualquer reformulação de um aplicativo existente custa tempo e dinheiro porque abre um novo ciclo de design, teste, validação e lançamento.
Poderíamos pensar na ética como a capacidade da nossa tecnologia de incluir todos os possíveis membros da sociedade – pessoas de diferentes religiões, géneros, idades, capacidades. Cada recurso útil que incorporamos realmente beneficia o público em geral.
Um dos exemplos mais notáveis é o rebaixamento dos meios-fios em suas extremidades, projetado para facilitar a travessia da rua por pessoas em cadeiras de rodas. Acontece que essa pequena melhoria é algo que quase todo mundo utiliza – idosos com dificuldade para andar com bengalas e muletas, senhoras com carrinhos de compras pesados, ciclistas, skatistas, mães com carrinhos de bebê. Este é um excelente exemplo de como um bom novo recurso pode beneficiar toda a sociedade.
Na nossa busca por criar uma tecnologia melhor, devemos guiar-nos pelo princípio de não causar danos e de melhorar a vida das pessoas. Estas são as perguntas que devemos nos fazer continuamente, disse Moges. Por outro lado, um aplicativo mal projetado não melhora a vida das pessoas e até a prejudica, pois praticamente arruína o trabalho dos nossos colegas.
Mas será que podemos ser tão ponderados e clarividentes a ponto de prever todas as opções e variações possíveis?! Para alcançar a adequação, nossas equipes de desenvolvimento devem ser tão diversas quanto possível. É bom ter uma variedade de pessoas porque elas nos dão pontos de vista diferentes.
Um método que pode nos ajudar a aprofundar os aspectos éticos do nosso novo desenvolvimento é, na fase de design, imaginar todas as aplicações hipotéticas da tecnologia, incluindo o cenário em que o sistema falha e não encontra implementação. Aqui temos que nos perguntar quais são as razões que levaram ao colapso. A compreensão de quais poderiam ser as possíveis razões nos levará a uma série de considerações que precisamos levar em conta em termos de design ético de aplicação, concluiu Moges.
Teste Agora! 
