Slack é acusado de treinar IA com chat privado, mas diz que não é bem assim

O Slack é uma das mais conhecidas plataformas de comunicação corporativa do mercado. Mas essa popularidade pode ser afetada por causa de uma polêmica: a acusação de que o serviço usa mensagens privadas de usuários para treinar a sua tecnologia de inteligência artificial (IA). A empresa soltou uma nota para se explicar.

Essa história ganhou força no Threads, depois que o engenheiro de software Gergely Orosz analisou os termos de uso do Slack e encontrou ali diretrizes que permitem que os conteúdos gerados pelos usuários em conversas privadas sejam usados para treinamento de grandes modelos de linguagem (as chamadas LLMs).

Aaron Maurer, engenheiro do Slack, explicou a Orosz que o serviço não treina LLMs com dados de clientes, mas reconheceu que as políticas da plataforma precisam ser atualizadas para deixar claro como a companhia lida com a privacidade do usuário no âmbito da IA.

Orosz não ficou convencido: “acreditarei que essa é a política quando isso estiver na política”. O assunto repercutiu rapidamente, com discussões no X/Twitter e no Hacker News, por exemplo.

Além da política que dá abertura para uso de dados privados no treinamento de IA, usuários se queixam de que não teriam sido notificados pelo Slack sobre essa mudança, fazendo com que ela fosse aceita como padrão sem o conhecimento deles.

O Slack publicou uma nota para explicar como usa dados do usuário em mecanismos de aprendizagem de máquina e inteligência artificial. A empresa também afirma ter atualizado seus termos sobre privacidade para deixar esses aspectos mais claros.

Fonte: Tecnoblog