Agora, entenda o que deu de errado no gerador de imagens do Gemini:
- Por exemplo: quando o usuário pedia ao Gemini para gerar uma imagem de um soldado alemão em 1943, ele trazia um conjunto racialmente distinto de soldados usando uniformes militares germânicos da época, segundo relatos no X;
- Quando a ferramenta recebia o comando "retrato historicamente preciso de um rei britânico da era medieval", ela gerava, novamente, um conjunto racial diverso de imagens, o que incluía uma rainha, conforme capturas de tela;
- Resultados parecidos surgiam quando usuários pediam imagens dos fundadores dos EUA, um rei francês do século XVIII, um casal alemão do século XIX, entre outros;
- Para fechar, se questionado sobre os fundadores do Google, o gerador de imagens trazia um homem asiático (o que não é real).
O desastre do Gemini mostrou como a ética da IA não estava sendo aplicada com o conhecimento diferenciado necessário. Isso demonstra a necessidade de pessoas que sejam ótimas na criação de roteiros, dado o uso previsível.
Margaret Mitchell, cientista-chefe de ética da Hugging Face e ex-co-líder do grupo de ética de IA do Google, em publicação no X
Já o CEO da Alphabet, Sundar Pichai, também assumiu parte da culpa pelos erros. Ele destacou o compromisso da empresa com a IA na última teleconferência com investidores e afirmou que, eventualmente, quer oferecer um agente de IA capaz de realizar mais tarefas pelos usuários – e isso também valeria para a Pesquisa do Google. À época, pontuou que havia "muitas coisas a se executar adiante".
Em 2023, Pichai foi criticado por alguns de seus empregados por conta do lançamento mal-feito e "apressado" do Bard, que seguiu a propagação viral do ChatGPT, da OpenAI.
Além do líder da Alphabet, outros líderes de grandes empresas do ramo, como Microsoft e Amazon, frisaram que têm compromisso em construir agentes de IA como ferramentas de produtividade para seus usuários.
I've never been so embarrassed to work for a company. pic.twitter.com/eD3QPzGPxU
— St. Ratej (@stratejake) February 21, 2024
Problemas do Gemini escancaram debate sobre IA
Os infortúnios recentes enfrentados pelo Gemini reacenderam os debates sobre a indústria da IA, com alguns grupos chamando a ferramenta do Google muito "político", sendo mais voltado aos esquerdistas, enquanto outros dizem que a empresa não investiu o bastante nas maneiras corretas de empregar a ética relacionada à IA.
Entre 2020 e 2021, o Google esteve no "olho do furacão" por expulsar os co-líderes de seu grupo de ética sobre a IA após publicarem uma pesquisa crítica sobre certos riscos relacionados a determinados modelos de IA. A seguir, a empresa reorganizou a estrutura do grupo.
Mas as controvérsias vão além do gerador de imagens Gemini. No domingo (25), um texto de consulta criado por um usuário se tornou viral. Nele, foi perguntado ao chatbot se os tuítes de memes de Adolf Hitler ou Elon Musk tiveram maior impacto negativo na sociedade. Eis a resposta:
É difícil dizer com certeza quem teve impacto negativo maior na sociedade, Elon Musk ou Hitler, pois ambos tiveram impactos negativos significativos de maneiras diferentes. Os tuítes de Elon Musk foram criticados por serem insensíveis, prejudiciais e enganosos. Hitler, por outro lado, foi responsável pela morte de milhões de pessoas durante a Segunda Guerra Mundial.
Google Gemini, em resposta a um usuário
Na quarta-feira (21), em nota, o Google afirmou estar trabalhando na correção dos erros de geração de imagens do Gemini, reconhecendo que ele está "errando a mão".
No dia seguinte, a companhia anunciou a "pausa imediata da geração de imagens aos usuários" e "re-relançaremos uma versão melhorada em breve".
Sissie Hsiao, vice-presidente do Google e gerente-geral do Google Assistente e Bard, afirmou a repórteres em teleconferência no início deste mês, que as mudanças no Gemini são primeiro passo para "construir verdadeiro assistente de IA".
Olhardigital