Pesquisadores da OpenAI e do Google DeepMind gravam depoimentos sobre riscos da IA

Pesquisadores atuais e antigos da OpenAI e do Google DeepMind gravaram depoimentos em vídeo afirmando que as empresas fazem pouco para proteger o mundo de consequências de sistemas de IA capazes de se aprimorar sozinhos, segundo a Reuters (via CNN Brasil). Os vídeos foram reunidos pela Palisade Research, organização sem fins lucrativos de segurança de IA, no projeto frominside.ai.

Os participantes disseram que suas preocupações com risco existencial são sinceras, e não marketing, e que os laboratórios valorizam mais quem cria modelos do que quem pede cautela. Geoffrey Irving, que trabalhou na OpenAI e na DeepMind, disse que o risco aumenta muito rápido. Neel Nanda, da DeepMind, estimou em pelo menos 10% a chance de a IA levar à extinção humana. As fontes não trazem resposta das empresas.