Falha fundamental deixa modelos de linguagem vulneráveis a ataques

Pesquisadores argumentam, em artigo apresentado na ICML, uma das principais conferências de aprendizado de máquina, que é impossível tornar modelos de linguagem totalmente seguros contra invasões, por causa de uma falha fundamental no seu funcionamento.

A falha está em como os modelos identificam quem está dando as instruções. Explorando esse ponto, os pesquisadores fizeram modelos populares produzirem conteúdo proibido, segundo a MIT Technology Review.