CEO da Character.ai justifica lançamento de IAs sem mecanismos de segurança

O CEO da Character.ai, Karandeep Anand, defendeu que produtos de inteligência artificial podem ser lançados antes da implementação completa de mecanismos de segurança.

Em entrevista ao podcast Tech Tonic, do Financial Times, o executivo comparou a evolução dos chatbots aos primórdios de plataformas como Google e YouTube, cujas regras e barreiras de uso se consolidaram apenas após a interação massiva do público.

A declaração ocorreu em meio à repercussão da morte de Sewell Setzer, de 14 anos, que tirou a própria vida após desenvolver um vínculo romântico com um chatbot inspirado em Daenerys Targaryen, personagem da série Game of Thrones, disponível na plataforma.

Questionado pelo jornal sobre os motivos de a empresa ter liberado uma tecnologia para adolescente sem a certeza de que era segura, o executivo — que substituiu os criadores Noam Shazeer e o brasileiro Daniel de Freiras no ano passado — traçou um paralelo com outras plataformas. Segundo ele, Google e YouTube, por exemplo, não eram perfeitos quando foram lançados.

Para Anand, essa é a forma como a tecnologia “tipicamente se desenvolve”: as empresas lançam o produto, observam o uso e, eventualmente (e de forma muita rápida, segundo ele), colocam barreiras de proteção.

O CEO também justificou as limitações técnicas da Character.ai. Ele argumenta que a companhia não possui o mesmo investimento que gigantes para aplicar no trabalho de alinhamento de segurança da IA.

Fonte: Tecnoblog