Dona do Claude defende pausa urgente no avanço da IA

A Anthropic, empresa responsável pelo assistente virtual Claude, defendeu a criação de um mecanismo para interromper temporariamente os avanços da inteligência artificial. Segundo a companhia, o motivo seria oferecer à sociedade uma janela de tempo para “lidar com as implicações” da tecnologia antes de um ponto de autonomia considerado irreversível.

No blog oficial, a empresa defende que a IA está evoluindo rapidamente para um cenário em que deixará de servir apenas como uma ferramenta de auxílio cotidiano para tornar o trabalho humano milhares de vezes mais eficiente ou, em grande parte, o substituir por completo.

Na prática, a Anthropic está dizendo que os modelos não precisarão mais de engenheiros de software para projetar suas próximas versões. A própria IA poderia escrever seu código, identificar gargalos na arquitetura e lançar atualizações de si mesma. Caso isso ocorra, estabaleceria um ciclo de evolução contínua, reduzindo drasticamente a necessidade de supervisão humana.

A Anthropic propõe a adoção de um modelo semelhante aos tratados internacionais que regulam armas nucleares. A mecânica dessa pausa exigiria garantias de que empresas concorrentes não continuem desenvolvendo a tecnologia em segredo durante a duração do acordo.

A solução sugerida pelos executivos é um sistema rigoroso de verificações. A ideia é que as próprias corporações do setor realizem auditorias físicas e de software nos data centers uns dos outros para assegurar o cumprimento da paralisação.

A dona do Claude confirmou que planeja organizar rodadas de conversas com formuladores de políticas públicas, pesquisadores acadêmicos e executivos de outras companhias para fazer isso sair do papel. Os resultados dessas reuniões serão futuramente divulgados para o público.

Fonte: Tecnoblog