Apple proíbe funcionários de usar ChatGPT por medo de vazamento de dados

A Apple proibiu os funcionários de usar ferramentas de IA, como o ChatGPT da OpenAI, por preocupações de que informações confidenciais alimentadas nesses sistemas possam vazar ou ser coletadas.

de acordo com relatório de Jornal de Wall StreetOs funcionários da Apple também foram advertidos contra o uso do assistente de programação AI do GitHub. bloomberg Repórter Mark Gorman chilro que o ChatGPT estava na lista de softwares banidos da Apple por “meses”.

A Apple tem boas razões para se preocupar. Por padrão, o OpenAI armazena em cache todas as interações entre os usuários e o ChatGPT. Essas conversas são coletadas para treinar sistemas OpenAI e podem ser rastreadas por moderadores para quebrar os termos e serviços da empresa.

Em abril, o OpenAI lançou um recurso que permite aos usuários desativar o histórico de bate-papo (coincidentemente, não muito depois de vários países da UE começarem a investigar a ferramenta por possíveis violações de privacidade), mas mesmo com essa configuração ativada, o OpenAI ainda mantém os bate-papos por 30 minutos. dias com a opção de revisá-lo “por abuso” antes de excluí-lo permanentemente.

Dada a utilidade do ChatGPT para tarefas como otimização de código e brainstorming de ideias, a Apple pode estar certa em se preocupar com seus funcionários inserindo informações sobre projetos confidenciais no sistema. Essas informações podem ser visualizadas por um moderador do OpenAI. Pesquisas mostram que também é possível Extraindo dados de treinamento de alguns modelos de linguagem usando sua própria interface de bate-papo, embora não haja evidências de que o próprio ChatGPT seja vulnerável a esses ataques.

No entanto, a proibição da Apple é digna de nota, pois a OpenAI lançou um aplicativo iOS para ChatGPT esta semana. O aplicativo é gratuito, suporta entrada de voz e está disponível nos Estados Unidos. A OpenAI diz que lançará o aplicativo em outros países em breve, junto com a versão para Android.