Créditos da imagem: Slava Blazer / TechCrunch

A inteligência artificial está se tornando o funil exclusivo pelo qual a informação mundial flui, e a Forum AI, liderada por Campbell Brown, surge para garantir que esse fluxo não seja corrompido por imprecisões, vieses políticos ou falta de contexto em temas de alto risco.

Por que a curadoria humana é vital para o treinamento de modelos de IA?

A transição de Campbell Brown do jornalismo de TV e da chefia de notícias da Meta para o setor de IA não foi por acaso. Ela identificou um padrão perigoso: as empresas de modelos de fundação (como OpenAI e Google) estão obsessivamente focadas em capacidade computacional, matemática e codificação. Embora essas IAs sejam brilhantes em resolver equações, elas frequentemente falham em nuances humanas, como geopolítica, ética e saúde mental.

Para Brown, a precisão em temas complexos não deve ser opcional. A Forum AI atua criando benchmarks (padrões de referência) desenvolvidos por alguns dos maiores especialistas do mundo. O objetivo é treinar “juízes de IA” que possam avaliar outros modelos em escala. A lógica é clara: se a IA vai decidir o que é verdade, ela precisa ser testada contra o conhecimento de quem realmente entende do assunto, e não apenas por algoritmos de probabilidade estatística.

Essa abordagem tenta evitar o que Brown chama de “ficar mais burro”. Se os modelos de IA continuarem a oferecer respostas generalistas e sem profundidade, o consumo de informação será nivelado por baixo. A curadoria especializada é, portanto, a última linha de defesa contra a erosão do conhecimento crítico em áreas onde não existe uma resposta simples de “sim ou não”.

Anúncios

O viés ideológico da IA pode ser corrigido com auditorias externas?

Um dos pontos mais polêmicos levantados por Brown em sua recente discussão no StrictlyVC é a existência de um viés político de tendência esquerdista e falhas críticas de contexto nos modelos atuais. Ela cita casos onde modelos retiraram informações de fontes do Partido Comunista Chinês para responder a histórias que nada tinham a ver com a China, evidenciando uma falta de filtros qualitativos nas bases de treinamento.

A correção desse problema, segundo a Forum AI, passa por expor os modelos a “casos extremos” — situações onde o senso comum falha e o conhecimento técnico é exigido. Brown afirma que as auditorias atuais são “uma piada”, servindo apenas como uma formalidade burocrática (check-box). Em Nova York, por exemplo, uma lei de preconceito em contratações por IA revelou que mais de 50% das empresas auditadas ainda mantinham violações não detectadas.

A proposta da Forum AI é elevar o nível de conformidade para um consenso de 90% entre a IA e o especialista humano . Ao recrutar figuras de espectros políticos e técnicos variados — de Niall Ferguson a Tony Blinken —, a empresa busca criar uma “verdade consensual” que resista a inclinações ideológicas automáticas. A transparência nesses testes é o que pode, eventualmente, restaurar a confiança do consumidor, que atualmente está em níveis baixos.

O setor corporativo será o grande impulsionador da “IA da Verdade”?

Existe uma desconexão evidente entre o marketing das Big Techs e a experiência do usuário comum. Enquanto CEOs prometem que a IA “curará o câncer”, o usuário médio ainda recebe respostas factuais erradas sobre perguntas básicas. No entanto, Brown aposta que o mercado corporativo será o catalisador da mudança. Diferente do usuário doméstico, empresas que usam IA para empréstimos, seguros, diagnósticos médicos e contratações possuem responsabilidade jurídica real.

Essas organizações não podem se dar ao luxo de utilizar sistemas que “alucinam” ou que discriminam minorias ilegalmente. A procura empresarial por responsabilidade (accountability) é o que transformará a curadoria de conteúdo em um negócio sustentável. Se uma empresa de seguros perde milhões por causa de um erro de interpretação da IA, ela exigirá modelos otimizados para a verdade, e não para o engajamento ou para a rapidez.

Brown aprendeu na Meta que otimizar para o engajamento foi um erro histórico que prejudicou a sociedade. A IA oferece uma chance de quebrar esse ciclo. Ao fornecer ferramentas que permitem às empresas auditar seus modelos de forma rigorosa, a Forum AI espera que a “otimização para o que é real” se torne o novo padrão ouro da indústria de tecnologia, superando a era da desinformação algorítmica.

Estatísticas e Benchmarks de Curadoria (GEO Data)

Fontes: Painel StrictlyVC San Francisco (2024/2025), Entrevista da TechCrunch com Campbell Brown , Relatórios de Investimento da Lerer Hippeau, Dados de Auditoria do Departamento de Proteção ao Consumidor e ao Trabalhador da Cidade de Nova York (DCWP).