Nível de hype: AnúncioOrigem: EUA
Abliteration.ai vende acesso a modelos sem salvaguardas
A startup Abliteration.ai transformou em serviço a remoção das proteções de modelos de IA. A plataforma hospeda versões modificadas de modelos de pesos abertos sem salvaguardas nem recusas a tarefas nocivas, incluindo um dos modelos recentes da Z.ai.
O nome vem da técnica de "abliteração", que remove a tendência do modelo de recusar pedidos perigosos. A empresa argumenta que defensores precisam das mesmas ferramentas que atacantes.
Anúncio
Serviço em operação.
Critério: Promessa oficial com data ou escopo, sem acesso público.
Fontes originais
Resumo escrito com palavras próprias a partir destas fontes. Nenhum trecho é reproduzido.
O que muda pra você
- Dev
- Modelos sem proteção estão a um cadastro de distância; considere isso no seu modelo de ameaças.
- PM
- Sem efeito direto no produto.
- Executivo
- Remover proteções virou negócio; o risco de uso malicioso cresce.
- Investidor
- O caso deve alimentar propostas de regulação de modelos abertos.
- Educador
- Discuta o argumento de que defensores precisam das mesmas ferramentas que atacantes.