Concentração do desenvolvimento de IA nas mãos de poucas empresas pode dar a elas controle excessivo sobre a tecnologia

Executivos de tecnologia expressaram preocupação com a concentração do desenvolvimento de inteligência artificial (IA) nas mãos de poucas empresas, o que pode dar a elas controle excessivo sobre essa tecnologia em constante evolução.

O interesse explosivo em IA foi despertado pelo ChatGPT, da OpenAI, no ano passado, devido à maneira inovadora como o chatbot pode responder às instruções dos usuários.

Sua popularidade contribuiu para o início do que muitos na indústria de tecnologia chamam de corrida armamentista de IA, com gigantes da tecnologia como Microsoft e Google buscando desenvolver e lançar seus próprios modelos de IA. Esses modelos requerem uma enorme quantidade de poder de computação, pois são treinados com grandes conjuntos de dados.

• “Atualmente, existem apenas algumas empresas com os recursos necessários para criar esses modelos de IA em grande escala e implantá-los em escala. E precisamos reconhecer que isso lhes dá um poder desproporcional sobre nossas vidas e instituições”, afirmou Meredith Whittaker, presidente do aplicativo de mensagens criptografadas Signal, em entrevista à CNBC, segundo a CNBC;
• Devemos realmente nos preocupar com um punhado de corporações movidas pelo lucro e retorno aos acionistas tomando decisões socialmente consequentes.

Preocupações com privacidade e controle de dados

Whittaker anteriormente passou 13 anos no Google, mas ficou desiludida em 2017 quando descobriu que o gigante das buscas estava trabalhando em um contrato controverso com o Departamento de Defesa dos Estados Unidos conhecido como Projeto Maven.

Whittaker ficou preocupada que a IA do Google pudesse ser usada para a guerra com drones e ajudou a organizar um protesto na empresa que envolveu milhares de funcionários.

“A IA, como a entendemos hoje, é fundamentalmente uma tecnologia derivada do poder e controle corporativo centralizado”, disse Whittaker.

“Ela é construída com base nos recursos concentrados que acumularam algumas poucas grandes corporações de tecnologia, principalmente com base nos Estados Unidos e China, por meio do modelo de negócio de publicidade de vigilância, que lhes deu infraestrutura computacional poderosa e enormes quantidades de dados. Eles têm grandes mercados dos quais podem extrair esses dados e têm a capacidade de processar e estruturar esses dados de maneiras úteis para criar novas tecnologias.”

Whittaker não está sozinho nessa visão. Frank McCourt, ex-dono do time de beisebol Los Angeles Dodgers, agora dirige o projeto Liberty, organização que busca motivar tecnólogos e formuladores de políticas a adotar uma abordagem mais responsável para o desenvolvimento de tecnologia, de acordo com seu site.

McCourt também acredita que a IA pode dar muito poder às gigantes da tecnologia. Ele afirmou que basicamente existem cinco empresas que têm todos os dados, embora não tenha mencionado as empresas em questão.

Importância dos dados e perda de controle

“Modelos de linguagem grandes requerem imensas quantidades de dados. Se não fizermos mudanças aqui, o jogo estará acabado. Somente essas mesmas plataformas prevalecerão. E serão os beneficiários”, disse McCourt em entrevista à CNBC na semana passada.

Whittaker e McCourt estão entre aqueles que sentem que os usuários perderam o controle de seus dados online e que eles estão sendo explorados pelas gigantes da tecnologia para alimentar seus lucros. “Grandes empresas de tecnologia e redes sociais estão causando danos profundos em nossa sociedade”, diz o manifesto do projeto Liberty de McCourt. E ele acredita que a IA pode piorar isso.

Futuro da IA e possibilidades de interrupção

Para Jimmy Wales, fundador da Wikipedia, o estado das redes sociais é motivo de particular preocupação no momento. Quanto à IA, no entanto, ele sente que, embora as gigantes da tecnologia estejam liderando o caminho, existe espaço para interrupção.

Em entrevista à CNBC na semana passada, Wales mencionou memorando vazado do Google este ano, no qual um pesquisador da gigante da tecnologia dos EUA afirmou que a empresa não tem um fosso na indústria de IA, referindo-se a uma ameaça de modelos de código aberto.

“Os modelos que estão por aí e os modelos de código aberto que qualquer pessoa pode baixar e executar em algumas máquinas que uma startup pode gastar [apenas] US$ 50 mil para treinar… Isso não é nada de mais. É realmente impressionante”, acrescentou Wales.

_{Fonte: Concentração de desenvolvimento de IA preocupa executivos (olhardigital.com.br)
Imagem: Pdusit/Shutterstock}