Como a Anthropic tenta equilibrar segurança da IA e crescimento comercial?
A Anthropic enfrenta o desafio de ampliar seus negócios sem comprometer os princípios de segurança que ajudaram a construir sua identidade. A empresa, criadora do Claude, busca conciliar o desenvolvimento acelerado da inteligência artificial com medidas para reduzir os riscos da tecnologia, enquanto disputa espaço com grandes concorrentes do setor.
A questão ganhou relevância com a abertura de capital da companhia na Nasdaq. A operação movimentou mais de US$ 81 bilhões (cerca de R$ 477 bilhões), estabelecendo um novo recorde para uma oferta pública inicial de ações (IPO, na sigla em inglês). Com a negociação, a avaliação da empresa chegou a aproximadamente US$ 1,5 trilhão (R$ 8,84 trilhões).
Leia também: Anthropic: Dario e Daniela Amodei concedem entrevista exclusiva à CNBC antes de estreia na Nasdaq
Os cofundadores Dario e Daniela Amodei defendem que a expansão financeira não deve comprometer a missão original da companhia. A proposta é acelerar o desenvolvimento de sistemas avançados sem deixar de lado os cuidados necessários para manter a tecnologia sob controle humano.
Companhia coloca segurança no centro dos negócios
A preocupação com os riscos da inteligência artificial acompanha a trajetória da Anthropic desde sua criação, em 2021. Dario Amodei e Daniela Amodei fundaram a companhia depois de deixarem a OpenAI, em meio a divergências relacionadas à segurança e ao desenvolvimento de sistemas avançados.
Uma das iniciativas da empresa nessa área é a chamada IA Constitucional. Dessa forma, a abordagem utiliza princípios previamente definidos para orientar o comportamento dos modelos, avaliar respostas e reduzir resultados inadequados.
Além disso, a Anthropic desenvolve mecanismos de proteção contra ameaças cibernéticas e biológicas e realiza avaliações para identificar possíveis falhas em seus sistemas.
Para os fundadores, a segurança precisa fazer parte das decisões empresariais desde o início. A avaliação é que os benefícios da inteligência artificial podem ser expressivos, mas os riscos também exigem atenção durante o desenvolvimento e a implementação dos modelos.
Crescimento da Anthropic exige investimentos elevados
O avanço comercial, entretanto, exige recursos cada vez maiores. A Anthropic registrou receita de US$ 33,24 bilhões (R$ 195,8 bilhões) nos nove meses apresentados em seu prospecto, uma alta de aproximadamente 1.200% em comparação com o mesmo período do ano anterior.
A expansão acompanha a adoção dos produtos Claude por empresas e o aumento da demanda por soluções de inteligência artificial. Além disso, a receita anualizada, calculada com base no ritmo de faturamento, alcançou aproximadamente US$ 81 bilhões (R$ 477 bilhões) no fim de outubro.
Entretanto, o crescimento também veio acompanhado de perdas contábeis expressivas. A companhia informou prejuízo líquido de US$ 104 bilhões (R$ 612,6 bilhões), ante US$ 25,1 bilhões (R$ 147,8 bilhões) no período anterior. Segundo a empresa, aproximadamente US$ 94,3 bilhões (R$ 555,4 bilhões) desse resultado negativo decorreram de alterações no valor justo de títulos conversíveis, passivos derivativos e instrumentos financeiros conhecidos como SAFEs.
A infraestrutura também representa um desafio. A Anthropic mantém um acordo com a SpaceX que prevê compromissos financeiros de até US$ 120,5 bilhões (R$ 709,7 bilhões). Quando toda a capacidade contratada estiver disponível, os pagamentos poderão alcançar US$ 3,1 bilhões (R$ 18,3 bilhões) mensais.
Críticas questionam compromissos da Anthropic
Apesar das iniciativas anunciadas, a estratégia da companhia enfrenta resistência. Mais de 90 acadêmicos e especialistas em segurança da inteligência artificial assinaram o manifesto The MisAnthropic Statement, que questiona a concentração de poder na empresa e a velocidade de desenvolvimento de seus sistemas.
Os signatários apontam uma contradição entre os alertas da Anthropic sobre os riscos de uma inteligência artificial capaz de aprimorar a si própria e a corrida para desenvolver essa tecnologia antes dos concorrentes. O documento também acusa a companhia de enfraquecer compromissos de segurança para favorecer seus interesses comerciais e regulatórios. Um representante da Anthropic se recusou a comentar o manifesto.
Leia também: Bolsas europeias operam sem direção única, com tecnologia em alta antes da estreia da Anthropic na Nasdaq
A governança da empresa também chama atenção. Os sete cofundadores controlam uma entidade chamada Founder LLC, responsável por 50,1% do poder de voto das ações em circulação. Consideradas também as participações individuais, o grupo concentra 61,3% dos votos.
Com a entrada na bolsa, a Anthropic amplia sua capacidade de captar recursos, mas também passa a enfrentar cobranças maiores de investidores e da sociedade. O principal desafio será demonstrar que a busca por crescimento e liderança no mercado de inteligência artificial pode avançar sem deixar a segurança em segundo plano.
O post Como a Anthropic tenta equilibrar segurança da IA e crescimento comercial? apareceu primeiro em Times Brasil | CNBC.