Naqueles dias, não havia rei sobre a IA

Assim como o antigo Israel na época dos juízes, a indústria da inteligência artificial não tem um “rei” — não há um órgão regulador, nem leis federais nos países em geral, apenas uma supervisão fragmentada, em nível de Estado, e princípios éticos não harmonizados, que são amplamente ignorados. Empresas como a OpenAI sugerem que a regulamentação é necessária, mas, depois, quando regulamentações concretas são propostas, elas se opõem. Enquanto isso, danos bem documentados pelas próprias empresas de tecnologia (entre eles desinformação e manipulação, viés de dados e danos ao meio ambiente) continuam praticamente sem controle.

Embora o cenário em torno da IA ​​não apresente a violência sangrenta e brutal do Livro de Juízes, ele é marcado por confusão, conflito e falta de consenso semelhantes (4.21; 21.25). Empresas e usuários de IA fazem o que lhes parece certo. Engenheiros, legisladores, lobistas, críticos e consumidores agem como se vivessem em uma única casa, mas em cômodos separados, e com as portas fechadas.

Narrativas que promovem medo e entusiasmo disputam nossa atenção: um artigo descreve a IA como progresso; o artigo seguinte, como retrocesso. Diferentes grupos pintam a mesma proposta legislativa como necessária ou destrutiva. Por exemplo, os legisladores da Califórnia votaram esmagadoramente a favor de regulamentações que tornariam as empresas de tecnologia legalmente responsáveis ​​por danos raros e catastróficos causados ​​por seus grandes modelos de IA, além de exigirem testes de segurança. A OpenAI afirmou que essa proposta legislativa poderia desacelerar a inovação no Vale do Silício. Vozes proeminentes na área de IA, incluindo um dos principais cientistas de IA da Meta, também se opuseram à proposta, que foi vetada pelo governador Gavin Newsom. 

Embora a tecnologia atual por trás da IA ​​possa ser nova, a história em geral não é. Durante séculos, os seres humanos fizeram o que lhes parecia certo, assim como na época dos juízes. Contudo, nem tudo são más notícias. Mesmo na escuridão do tempo de Juízes, havia líderes fiéis, como Débora e Gideão, que buscavam seguir a Deus. Da mesma forma, hoje, existem vozes defendendo o bem da humanidade em todo esse cenário da IA.

Como, então, os cristãos devem encarar a IA? Como devemos responder às inovações da IA em uma época sem rei, sem consenso e sem um caminho claro a seguir? Primeiramente, devemos evitar ceder ao entusiasmo exagerado ou ao medo em nossa resposta a IA. Em vez disso, devemos nos lembrar do que Deus continuamente chamou os israelitas a fazer: devemos amar o Senhor e amar o nosso próximo. Porque amamos a Deus, devemos colocar os outros em primeiro lugar, quando pensarmos sobre os usos da IA ​​em nível pessoal, coletivo e social. 

O surgimento repentino e em grande parte inexplicável da IA ​​na cultura popular, em 2023, gerou um vácuo de conhecimento imediato. A tecnologia apareceu antes que qualquer pessoa de fora dos círculos técnicos tivesse a chance de considerar o que ela poderia significar. Nem mesmo os criadores do software sabiam o que tinham em mãos. Charlie Warzel, do The Atlantic, observou que “a OpenAI não esperava que o ChatGPT se tornasse muito mais do que uma curiosidade passageira entre os fanáticos por IA no Twitter”. Sendo assim, a OpenAI não deu muitas explicações sobre o propósito do ChatGPT ou exatamente o que ele é capaz de fazer. Se os próprios criadores da IA ​​não estavam preparados para o boom da IA, é seguro dizer que ninguém estava.

Esse vácuo de sentido foi preenchido por uma cornucópia de narrativas concorrentes que criaram o caos moral, legal e ético em que vivemos atualmente. Os pontos de vista variavam do transumanismo (“Os humanos se fundirão com a IA”) e da utopia (“A IA acabará com todo o trabalho e inaugurará uma era de lazer”) à distopia (“Uma IA superinteligente poderá matar todo mundo”) e ao medo (“A IA tomará seu emprego”). E eram movidos por entusiasmo exagerado (“A IA impulsionará a economia”), críticas (“A IA poderá aumentar a desigualdade”) ou desdém (“A IA é uma moda passageira”). 

Uma das narrativas mais proeminentes associadas à IA é a da inevitabilidade tecnológica: a ideia de que algo será feito pelo simples fato de que pode ser feito. Essa teoria tem sido usada para fazer parecer que a IA é algo impossível de se deter, enquanto se ignoram desafios como a implementação no ambiente de trabalho, as preocupações ambientais, a potencial perda de empregos, o uso de dados e a violação de direitos autorais. A ideia da inevitabilidade tecnológica é frequentemente defendida em contextos geopolíticos. Por exemplo, em 2023, a empresa Scale AI alertou o Congresso dos EUA de que o país poderia ficar atrás da China no desenvolvimento de IA, “apresentando a corrida da IA ​​como uma batalha patriótica entre ‘valores democráticos’ e um regime autoritário”. De forma mais explícita, o renomado desenvolvedor de IA Jürgen Schmidhuber afirmou: “Não se pode detê-la. Certamente não em nível internacional”, porque, segundo ele argumentou, diferentes países terão objetivos diferentes para a tecnologia. “Portanto, é evidente que eles não participarão de nenhum tipo de moratória.”

No entanto, nenhuma tecnologia é inevitável; não temos nenhuma obrigação de investir em IA ou em qualquer outro avanço tecnológico. Essa narrativa que é contrária à inevitabilidade tecnológica desafia os criadores de tecnologia a justificarem suas criações. Contudo, não existe nenhuma lei ou nenhum órgão regulador abrangente que exija a justificativa de tecnologias, apesar de seus malefícios. Em vez disso, cada empresa de tecnologia faz o que lhe parece certo.

Os usuários também fazem o que lhes parece certo. A IA tem efeitos formativos que, na pior das hipóteses, podem nos afastar das atividades que Deus nos concedeu, especialmente no que diz respeito ao trabalho. Por exemplo, o uso excessivo de assistentes de IA no ambiente profissional pode nos distanciar do trabalho para o qual Deus nos chamou, eliminando uma ferramenta essencial que Ele usa para nos moldar e santificar à semelhança de Cristo.

A ideia de que a IA é inevitável pode levar as pessoas a evitarem questionar pressupostos sobre produtos da IA e seus potenciais danos a usuários, consumidores e colegas de trabalho. As pessoas podem se concentrar nas promessas de eficiência da IA ​​no local de trabalho, mas os seguidores de Cristo, ao tomarem decisões sobre IA, devem levar em consideração prioridades cristãs que são ineficientes, porém atemporais, como misericórdia, bondade, paciência e perseverança.

Ao considerarmos o impacto da IA ​​na força de trabalho, devemos pensar além do nosso próprio emprego e considerar nossos próximos: as capacidades de geração de texto da IA ​​substituirão os empregos de trabalhadores de colarinho branco [profissionais que realizam trabalhos administrativos, burocráticos, de gestão ou intelectuais, geralmente em ambientes de escritório]? Em alguns casos, a preocupação em perder empregos para robôs é bem fundamentada, visto que 1,7 milhão de operários de fábricas, em todo o mundo, foram substituídos por robôs nos últimos 25 anos. Embora a substituição em larga escala da mão de obra de trabalhadores de colarinho branco ainda não tenha ocorrido, o ritmo de crescimento da IA ​​pode causar entre esses profissionais uma ansiedade semelhante à que os operários da indústria manufatureira nos EUA enfrentam há anos. Ambos os grupos podem usar essa experiência para desenvolver empatia mútua.

Nossas escolhas individuais no sentido de usar ou rejeitar ferramentas de IA contribuem para tendências em larga escala como essas. Considerar os efeitos dessa tecnologia sobre nossos semelhantes pode tornar essa decisão não um simples sim ou não, mas uma escolha multifacetada que exige oração, nuances e reflexão cuidadosa. 

Tenho tido que lidar com esse equilíbrio entre benefícios e malefícios no meu próprio uso e aplicações da IA. Trabalho na Universidade Estadual do Arizona, no programa de comunicação técnica. Meu laboratório de pesquisa criou o chatbot Arizona Water, que fornece informações sobre gestão e conservação hídrica para os moradores do Arizona.

Com suas múltiplas regiões desérticas, o Arizona apresenta um cenário de gestão hídrica complexo e difícil, que inclui a diminuição do volume de água do Rio Colorado e uma megasseca constante. As informações sobre esses problemas podem ser técnicas e de difícil compreensão, uma vez que cada cidade possui uma combinação diferente de fontes de abastecimento de água. As leis federais e as normas locais que regem o abastecimento de água são constantemente renegociadas, e novas formas de reuso e reciclagem de água também podem ser complexas. Para complicar ainda mais a situação, as narrativas sobre o Arizona estar ficando sem água frequentemente entram em conflito com as exigências para que a maioria das áreas urbanas afirme ter reservas hídricas suficientes para pelo menos 100 anos.

Embora criar um bot de IA para explicar essas questões possa parecer uma solução “fácil” para promover o florescimento humano e a boa mordomia da criação, a realidade é mais complexa e nuançada. A tecnologia de IA exige quantidades enormes de água para resfriar seus data centers — até 1,25 milhão de galões [4.731.764,73 litros] por dia, apenas para um grande centro de dados no Arizona. (O Arizona Water já utilizou aproximadamente 133 litros de água para responder às perguntas do público.)

Minha equipe e eu tivemos que avaliar se valia a pena gastar água para compartilhar informações valiosas sobre a conservação da água. Acreditamos que o valor de um bot, que gera informações de fácil compreensão para o público sobre um assunto crucial, justifica o custo ambiental que nosso processamento computacional exige. No entanto, alguns de nossos semelhantes discordam que a água no Arizona deva ser usada para inteligência artificial. Tivemos que considerar cuidadosamente os potenciais benefícios e ameaças para nossos semelhantes e para o meio ambiente. Por fim, optamos por usar chatbots de IA.

Não foi uma escolha fácil, porque os impactos ambientais do uso da IA ​​são significativos, e acredito que Deus criou a Terra e nos chama a cuidar dela (Gênesis 2.15; Levítico 25.2-7). Além do consumo de água, os custos de energia são altíssimos. Um artigo do MIT citou estimativas da Agência Internacional de Energia de que a demanda por eletricidade desses data centers pode dobrar antes do final da década. Embora “os data centers representem de 1% a 2% da demanda global de energia, algo semelhante ao que os especialistas estimam para o setor da indústria aérea”, acrescentou o artigo, “esse número está prestes a disparar… podendo chegar a 21% até 2030”.

A quantidade de energia necessária para operar esses centros pode sobrecarregar as redes elétricas e afetar a disponibilidade de energia para os moradores da região. Sem regulamentação para orientar esse setor, a demanda por energia pode de fato aumentar e o consumo de energia decorrente pode se tornar um desafio significativo. (Algumas empresas de IA estão, de forma controversa, tentando construir suas próprias usinas de energia verde ou nuclear.)

Contudo, ao analisarmos o meio ambiente em nosso projeto, o chatbot com informações sobre o uso da água, também consideramos a experiência vivida por aqueles que nos rodeiam. Do que nossos vizinhos precisam? Vale a pena usar recursos ecológicos de curto prazo para ajudar as pessoas a compreenderem as mudanças em seu ambiente ecológico? Eu acredito que sim.

O meio ambiente não é a única preocupação. Quando cada um faz o que lhe parece certo, sem se preocupar com os outros, fica fácil explorar os dados dos nossos vizinhos. 

Empresas de IA frequentemente treinam suas ferramentas usando montanhas de dados sem permissão. De fato, o autor Robin Sloan argumentou que “o único acervo conhecido por produzir capacidades notáveis ​​é: toda a internet, ou algo muito próximo disso. Todo o acervo navegável de textos humanos”. Esse tipo de coleta de dados se encontra em uma área cinzenta da ética, onde há poucas regras. Nos Estados Unidos, é permitido coletar ou “extrair” automaticamente palavras e imagens publicadas na internet, para fins educacionais e não comerciais. 

No entanto, autores, comediantes, artistas e músicos processaram empresas de IA como a OpenAI e a Meta, alegando que elas violam as leis de direitos autorais, quando seus sistemas de IA generativa usam dados extraídos para gerar receita. “O sucesso e a lucratividade da OpenAI se baseiam na violação em massa de direitos autorais, sem qualquer permissão ou compensação aos detentores dos direitos”, afirma um dos processos que tem o autor John Grisham como um dos autores da ação. As empresas de IA argumentam que seu uso é permitido por uma cláusula de direitos autorais chamada “uso justo”, entre outros argumentos. Até o momento, não há diretrizes claras sobre como proceder nesses casos. Enquanto isso, as empresas de IA parecem estar agindo da maneira que lhes parece certa.

Mesmo que as questões jurídicas sejam resolvidas nos tribunais, as questões éticas permanecem. Amar o próximo — e respeitar os dados dele — é um desafio sério para os desenvolvedores de ferramentas de IA, quando o sustento de milhões de artistas e criativos está em jogo. Pedir permissão aos criadores de conteúdo ou pagar-lhes para usar suas obras pode ser a maneira mais amorosa de prosseguir, mas também pode se mostrar inviável em larga escala. Nesse caso, o correto seria parar de usar IA da forma que vem sendo usada atualmente. As empresas de IA teriam que buscar alternativas mais éticas ou simplesmente parar de desenvolver a IA.

Por ora, cada pessoa e empresa deve pesar o potencial dano aos seus vizinhos em relação ao potencial benefício que a IA possa lhes trazer. É isso que minha equipe e eu estamos tentando fazer com o nosso chatbot. Como alguém que cria ferramentas de IA para o bem comum, não estou lucrando com elas. Minha equipe não está tentando criar soluções que tirem o trabalho das pessoas, nem estamos fazendo este trabalho para nossa própria glória. Estamos tentando ajudar as pessoas. Mesmo assim, ainda usamos ferramentas de empresas que coletam dados sem permissão.

Em última análise, encaro este trabalho com total transparência. Se as práticas atuais de obtenção de dados de IA forem consideradas ilegais, descontinuarei o bot e buscarei outras maneiras de ajudar as pessoas com a tecnologia. 

Como existem poucas regras ou normas para a IA, alguns podem achar que um robô de IA para informação hídrica é algo inerentemente antiético e deveria ser desativado (ou nunca deveria ter sido criado). Outros podem achar que encerrar um projeto que busca o bem comum, por questões de dados, é um exagero desnecessário. Mesmo quando cristãos discordarem, porém, devemos fazê-lo em amor, sem buscar vencer a discussão para nossa própria justificação e sem demonizar a pessoa com quem discordamos. 

Os seguidores de Cristo devem refletir sobre como o uso da IA ​​afeta os outros. Ao fazermos isso, podemos dar o exemplo de amor ao próximo, seja desenvolvendo tecnologia de IA no Vale do Silício, seja optando por não usar a IA para redigir um relatório no trabalho. A IA pode não ter um rei, mas nós temos.

Stephen Carradini é professor associado de comunicação técnica na Universidade Estadual do Arizona. Seu trabalho se concentra na implementação ética e eficaz de tecnologias emergentes.

The post Naqueles dias, não havia rei sobre a IA appeared first on Christianity Today em português | Cristianismo Hoje.