terça-feira, março 26, 2024

Idiomas Chinese (Simplified)EnglishFrenchGermanItalianKoreanPortugueseSpanish

InícioNotíciasMicrosoft demitiu toda a equipe de ética do setor de inteligência artificial

Microsoft demitiu toda a equipe de ética do setor de inteligência artificial

Demissão aconteceu como parte de layoff anunciado pela Microsoft em janeiro; políticas de IA perderão fiscalização com dissolução da equipe

A Microsoft demitiu toda a equipe de ética da sua divisão de inteligência artificial. A equipe, que chegou a contar com 30 membros em seu auge, encerrou o seu período na empresa com apenas sete funcionários. O papel desse setor era “fiscalizar” se as políticas da Microsoft sobre IAs eram colocadas em prática.

Microsoft demitiu equipe responsável por avaliar diretrizes éticas em IA (Imagem: Divulgação/Microsoft)
Microsoft demitiu equipe responsável por avaliar diretrizes éticas em IA (Imagem: Divulgação/Microsoft)

A dissolução da equipe de ética e sociedade (nome em tradução literal) integra a demissão em massa anunciada pela Microsoft em janeiro. A previsão da criadora do Windows terminar o “passaralho” até o fim deste mês. Com esses cortes, a empresa mantém mais recursos para investir em inteligência artificial.

Fim da equipe não significa fim da “ética” no Bing Chat

A demissão de toda a equipe de ética não quer dizer que a Microsoft permitirá que o Bing Chat “vire o Coringa”. O Escritório de IA Responsável (ORA, na sigla em inglês) continua criando as diretrizes sobre inteligência artificial. Porém, não terá mais um time dedicado em avaliar se as políticas de responsabilidade são aplicadas nas ferramentas de inteligência artificial.

Como apurou o Plataformer, havia pressão partindo de Kevin Scott, diretor de tecnologia da Microsoft, e Satya Nadella, CEO da big tech, para adotar rapidamente os modelos de IA da OpenAI e entregá-los aos consumidores — e basicamente assim nasceu o Bing Chat.

Na teoria, ao usar o GPT-4, a Microsoft utiliza um produto que já passou pelo crivo de uma equipe de ética para inteligência artificial.

Os membros da equipe dissolvida pela Microsoft seriam, a princípio, incorporados em outros setores. No áudio de um reunião, ao qual o Plataformer teve acesso, realizada no ano passado, um funcionário rebateu John Montgomery, vice-presidente de IA da empresa, pedindo que a ideia de encerrar a equipe fosse reconsiderada.

Em outubro, funcionários da equipe foram informados que seriam realocados (Imagem: Tara Winstead/Pexels)
Em outubro, funcionários da equipe foram informados que seriam realocados (Imagem: Tara Winstead/Pexels)

 agora ex-empregado da Microsoft disse que o papel da equipe era importante para evitar que uma IA trouxesse riscos à sociedade. A preocupação era de que sem a fiscalização, a tecnologia causaria impactos negativos.

Um exemplo disso é o fato de que notícias falsas podem ser espalhadas no Bing Chat e ChatGPT, já que a base de dados vem de conteúdos da internet.

Divisões de ética em empresas de tecnologia costumam ser uma faca de dois gumes: por um lado, tende a melhorar um produto e evitar falhas que podem complicar a imagem da empresa. Por outro, elas “atrasam” o lançamento, pois tem o papel de dizer o que precisa mudar.

Com informações: Plataformer e TechCrunch

Via tecnoblog.net

NOTÍCIAS RELACIONADAS

+ LIDOS