📰 Alucinou total

28 de fevereiro, Quarta 

A gente gosta de começar a news com ele, o bom humor, mas tem assuntos que, mesmo sendo difíceis, merecem destaque. Vimos esta reportagem contando a história de Maurício Luz. E achamos importante que todo o mundo conheça também. 

The BRIEFONES 002 no ar! 🎧

Oferecido por

Alucinações perigosas 

A gente não poderia deixar de falar nesta semana sobre o rolê que levou a Google, dias atrás, a retirar do ar o gerador de imagens do Gemini, sua principal inteligência artificial. Para quem não se lembra, houve relatos de usuários do X sobre erros relacionados a representações históricas e sociais. 

“Reconhecemos o erro e pausamos temporariamente a geração de imagens de pessoas no Gemini enquanto trabalhamos em uma versão melhorada”, disse a empresa em um comunicado no dia seguinte. 

O que rolou, afinal? 

Mas o que explica tamanho B.O. (para não dizer algo pior)? No mesmo documento, a Google disse que a IA sofreu de alucinações, fenômeno comum em modelos de linguagem grande (LLM), em que a tecnologia interpreta não só informações de maneira errada como também entrega respostas sem pé nem cabeça.

A empresa ainda falou que quando construiu o Gemini fez o máximo possível para que ele não caísse em ciladas comuns, como imagens violentas ou sexuais. 

“Essas duas coisas levaram o modelo a fazer compensações excessivas em alguns casos e a ser demasiado conservador em outros, conduzindo a imagens embaraçosas e erradas”, completou. 

Surrealismo do mundo invertido 

Já uma publicação da IBM, relacionada a alucinações, explica que nesses casos os resultados não são baseados em dados de treinamento. Traduzindo a história: são decodificados incorretamente sem seguir um padrão identificável — embora no exemplo do X haja um certo padrão discriminatório — que, em diversos casos, pode parecer “surreal”. 

O conteúdo inclusive aponta exemplos de alucinações no Bard, chatbot que agora também se chama Gemini. 

A Meta também retirou do ar seu chatbot Galactica, focado em conhecimento científico, por ter fornecido informações equivocadas e até preconceituosas a usuários.  

Qual IA erra mais? 

Aliás, uma startup europeia chamada Vectara, especializada em IA, explorou taxas de alucinação de vários modelos, solicitando que fizessem resumos de documentos. O GPT-4 da OpenAI se saiu melhor, exibindo a taxa de 3% de alucinações.

Voltado ao caso do Gemini, a Google afirmou que está trabalhando em melhorias e testes para então reativar a função de geração de imagens. No entanto, não descarta a possibilidade de o problema se repetir.

Enquanto isso, o assunto segue inflamado na mídia e em postagens de usuários gringos. 

Encarando verdades 

E o que podemos aprender com isso? Quando o assunto são LLMs, não se trata apenas de repetir mentiras ou vieses, vinda de uma vasta base de dados, mas também de criar (de fato) inverdades. Ou seja, há quase sempre um risco gigantesco na disseminação de informações equivocadas e até em tomadas de decisões.  

Esse seria o caso, por exemplo, de uma IA ser aplicada em diagnósticos de saúde, o que poderia trazer consequências para o paciente e até intervenções desnecessárias.

A automação deve trazer lá seus benefícios, mas seguimos a máxima de que todo cuidado é pouco – e um Brifão 100% feito por humanos. 

Inteligência do Coração 

No mundo da tecnologia, como em qualquer outra área profissional, equilibrar bem-estar e sustentabilidade é um desafio crescente. A resposta pode estar na "Heart Intelligence", uma abordagem que une saúde mental e física, essencial para profissionais autônomos de TI.  

Exemplo disso é a Dell Technologies, com seu compromisso em materiais sustentáveis e economia circular. Seus esforços vão desde design ecofriendly até gerenciamento eficiente de energia, refletindo uma tendência de mercado onde o equilíbrio e a sustentabilidade são chave para o sucesso. 

O programa Dell Expert Network oferece apoio aos profissionais autônomos de TI, para que eles possam continuar na procura dessa batida perfeita.  Inscreva-se. 

Mercado e IA 🛶

Um pé em cada canoa: MS investe em rival da OpenAI 

Parafraseando Galvão Bueno, “não existe mais bobo” no mundo das big techs (na real, nunca houve). Como quem não quer nada, a Microsoft fechou uma parceria e investimento na startup francesa Mistral, mas sem adquirir ações.  

Com apenas 10 meses de existência, a Mistral já arrecadou mais de USD 500 milhões e é avaliada em USD 2 bilhões. A parceria visa desenvolver modelos de linguagem para a divisão Azure, incluindo a possibilidade de produzir chips semicondutores próprios no futuro. 

Economia e finanças

Drex vai ao povo 💳

O Drex dará mais um passo importante em suas etapas de teste: em parceria com a Caixa, vai pagar uma base de cerca de 5% dos beneficiários do Bolsa Família entre abril e maio.

Mas como isso vai funcionar? A Caixa avalia a possibilidade de depositar o real digital em um cartão, que poderá ser usado inclusive em locais sem internet. A instituição também planeja, no futuro, realizar pagamentos de benefícios trabalhistas por meio dessa modalidade. 

Tecnologia móvel

Quanto mais giga, melhor: 5.5G vem aí 

O 5.5G está prestes a ser lançado no Brasil, prometendo velocidade de download de até 10 Gbps – cerca de 30 vezes mais rápidas que o 5G atual — que muita gente ainda nem experimentou.  

Já em teste em várias cidades mundo afora, o 5.5G promete beneficiar tanto o uso comum quanto grandes eventos e setores, como indústria, agricultura e logística. 

TL;DR

Ainda mais little e mais BRIEF

📺 A Max, plataforma de streaming que combina HBO Max e Discovery+, finalmente estreou no Brasil. Mas nada mudou no catálogo, vale dizer. 

 🎮A Comissão Nacional do Senado aprovou o marco legal dos videogames, o que inclui incentivos fiscais e regularização do setor. 

📈 As ações do Zoom subiram 10,4% no pós-mercado, depois de resultados do trimestre superarem as expectativas de Wall Street. 

💵 Reza a lenda (na realidade o site Adweek) que a Google está pagando “milhares de dólares” para publishers usarem suas soluções de IA para produção de conteúdo.

A Redação Recomenda

Achados para ler, ouvir e assistir

Oferecido por

Já pensou em fazer parte do ambiente de coinovação de um dos maiores bancos do Brasil? (página, no seu tempo, em português)  
Dentro do ecossistema inovabra, sua corporação ou startup poderá colaborar com outras empresas e desenvolver soluções para dentro e fora do Bradesco  

Como matamos a criatividade e por que ela nunca foi tão importante (leitura, 11min, em inglês) 
uma baita análise considerando avanços tecnológicos do momento 

Roundhay Garden Sscene: o esquecido primeiro filme da história do cinema (leitura, 3min, em português) 
bora saber um pouco mais sobre a sétima arte

10 razões pelas quais os colaboradores resistem a mudanças na firma (leitura, 8min, em inglês) 
mas vale se questionar se a mudança está sendo bem-implementada, jovens!