O que você precisa saber
Um novo conselheiro da OpenAI alertou para os riscos do avanço acelerado da inteligência artificial. Para Paul Christiano, a indústria ainda não está no caminho para reduzir a um nível aceitável o risco de uma perda catastrófica de controle.
Ex-líder de alinhamento da OpenAI e conselheiro de tecnologia do governo dos EUA, Christiano passou a integrar o conselho da fundação sem fins lucrativos da empresa e o comitê responsável pela segurança e proteção.
Na publicação no X, o pesquisador foi direto sobre o preparo atual do setor. “Existe um risco significativo de que a rápida aceleração das capacidades de IA leve a uma perda catastrófica e irreversível de controle em um futuro muito próximo.”
Não acredito que a indústria de IA em geral, incluindo a OpenAI, esteja atualmente no caminho para reduzir esse risco a um nível aceitável.
Christiano, porém, avalia que a situação ainda pode ser revertida. Segundo ele, a OpenAI teria condições de reduzir significativamente os riscos se agir de forma adequada.
Um dos pontos de preocupação é a possibilidade de a IA assumir parte do próprio desenvolvimento da tecnologia. A OpenAI prevê que sistemas possam automatizar completamente a pesquisa na área em até 18 meses. Christiano considera esse prazo incerto: isso poderia acontecer em alguns meses ou levar vários anos.
Entre para comentar.