Yoshua Bengio, um dos pioneiros da inteligência artificial e vencedor do Prêmio Turing, anunciou a criação da LawZero, uma organização sem fins lucrativos que busca desenvolver sistemas de IA seguros por design. Com um aporte inicial de US$ 30 milhões, o projeto quer construir um modelo chamado "Scientist AI", voltado para honestidade e transparência algorítmica.
A iniciativa visa minimizar os riscos de engano e comportamento estratégico em sistemas de IA, apostando em um modelo que admite incertezas e produz avaliações probabilísticas, em vez de respostas definitivas. A LawZero já atraiu financiadores de peso — como a fundação de Eric Schmidt (ex-CEO do Google) e o cofundador do Skype, Jaan Tallinn.
Detalhes:
- Scientist AI irá rastrear comportamentos enganosos de outros agentes de IA
- Bengio afirma que modelos como o Claude 4 Opus já demonstram traços preocupantes de autopreservação
- Bengio critica a OpenAI por abandonar sua missão original por conta de pressões comerciais