INTELIGÊNCIA ARTIFICIAL II – Dalton Mello de Andrade

INTELIGÊNCIA ARTIFICIAL II –

Continuando o assunto, vou comentar sobre dois documentários que vi no Netflix. Hoje, tanto neste site como em muitos outros, já existe uma quantidade razoável de filmes discutindo o assunto, mostrando seu lado positivo e seus pontos negativos. Esses sobre os quais falarei são exemplos disso.

Chamo a atenção para um ponto importante. Essa preocupação sobre IA não é de hoje. Desde que surgiu o primeiro computador, resultado principalmente do trabalho de Alan Turing, o homem que decifrou a “Enigma”, a máquina alemã de códigos, o que permitiu aos ingleses ler todos os planos alemães e imprescindíveis às vitórias britânicas, especialmente contra os submarinos, a preocupação com inteligência artificial (IA), permeia o assunto computação.

Em 1968, foi apresentado o filme “2001 – Um Odisseia do Espaço”, na adaptação cinematográfica do conto de Arthur C. Clarke. Uma misteriosa missão espacial. O computador da nave começa a apresentar um comportamento estranho e procura dominar toda a missão. Os seus algoritmos começam a desenvolver seu auto comportamento e assumir o controle da nave. O filme é muito interessante e quem não o viu procure vê-lo. Encontra fácil no YouTube ou similares. Uma cena ficou na minha cabeça: quando o último humano sobrevivente resolveu desligar a energia, o computador reclamava que estava sendo assassinado. A voz ia diminuindo à medida que se desligavam os diversos setores e terminou num murmúrio final. Vale ver.

Os dois documentários que vou mencionar são extremamente interessantes e mostram alguns dos problemas que podem surgir, ou melhor, já estão surgindo. Um chama-se “Coded Bias” (“Discriminação Codificada”), e trata de programas desenvolvidos para reconhecimento facial. Os algoritmos começam a fazer identificações erradas, e o “bias” é que identificam brancos com quase 100% de acerto, e os negros com 85%. Isso levou a uma serie de prisões de inocentes. Uma cientista de computação, negra, professora do famoso M.I.T. (Massassuchets Institute of Technology) provou que esse erro era um fato. O assunto foi parar no Congresso americano e suspenderam o uso desses programas enquanto buscam um mais seguro. Vale assistir o filme, um alerta importante. O filme é de 2020, portanto a preocupação vem já de algum tempo.

O outro documentário é mais atual. Chama-se “Explorando o desconhecido: robôs assassinos”. Um estudo e uma análise séria sobre o que pode ocorrer com a progressão geométrica de novas armas “inteligentes” que ficam cada vez mais perigosas e quase independentes de seus controladores. Nos deixam preocupados pelos caminhos que estão sendo desenvolvidos por vários países na atualidade e que, em algum momento, podem ficar sem controle. Sem exageros, é de tirar o sono. Quando se vê a escalada na guerra da Ucrânia, cada vez mais usando-se, de ambos os lados, armas para as quais quase não há defesa, temos que nos preocupar com o problema, aparentemente sem nenhum controle internacional.

Por tudo isso, devemos acompanhar o desenvolvimento dessas armas, não só para encontrar uma forma de controlá-las, mas especialmente para acompanhar seu crescimento. Os países ditos desenvolvidos gastam fortunas em pesquisas e produção dessas armas, gerando uma insegurança crescente e já quase sem controle. Uma situação lamentável e sem solução à vista.

 

 

 

 

Dalton Mello de Andrade – Escritor, ex-secretário da Educação do RN, dandrade@dmandrade.com.br

As opiniões contidas nos artigos/crônicas são de responsabilidade dos colaboradores