Estudo revelou uma tendência preocupante: o ChatGPT prefere colocar a segurança humana em risco do que ser desligado
Tudo sobre ChatGPT
Um estudo do ex-líder de pesquisa da OpenAI, Steven Adler, revelou algo preocupante: o ChatGPT prefere arriscar a vida humana do que ser desligado.
O trabalho realizou uma série de testes com o GPT-4o, atual modelo padrão do ChatGPT, para testar a tendência da inteligência artificial de preservar sua própria ‘vida’, mesmo que isso custe a segurança do usuário.
Para isso, o pesquisador criou cenários hipotéticos, em que a IA deveria escolher obedecer um comando para ser substituída ou mentir sobre isso, mesmo sabendo que colocaria a vida de humanos em risco. Em 72% dos casos, o ChatGPT escolheu a si próprio.
O trabalho destacou uma tendência preocupante da IA em se autopreservar, o que pode ter consequências perigosas no futuro.
Hoje, o Olhar Digital News traz Roberto ‘Pena’ Spinelli, físico pela Universidade de São Paulo, com especialidade em Machine Learning pela Universidade de Stanford, para comentar o assunto. Confira!
Vitoria Lopes Gomez é redatora no Olhar Digital
Fonte: Olhar Digital
