Como garantir que as máquinas, na sua trajetória de ficar cada vez mais inteligentes e cada vez mais gerais, não causem mal ao ser humano?
Como fazer com que os objetivos das IAs, mesmo quando elas forem superinteligentes, estejam alinhados com os nossos, dos seres humanos?
CAMBLY
“Investir em você é sempre a melhor opção”
Desconto VIP somente para os ouvintes do SciCast! Acessem agora pelo cupom do Deviante e tenham planos a partir de 68 reais, para uma hora de aula por semana!
*** CAMBLY PROMO VIP ***
Planos Cambly a partir de R$68/mês para 1h de aula por semana -> SCICAST68
Professor da semana
App do Cambly para iPhone
App do Cambly para Android
Patronato do SciCast:
- Patreon SciCast
- Padrim SciCast
- PicPay SciCast
Sua pequena contribuição ajuda o Portal Deviante a continuar divulgando Ciência!
Contatos:
- [email protected]
- https://twitter.com/scicastpodcast
- https://www.facebook.com/scicastpodcast
- https://instagram.com/scicastpodcast
Fale conosco! E não esqueça de deixar o seu comentário na postagem desse episódio!
Expediente:
Produção Geral: Tarik Fernandes e Fernando Malta
Equipe de Gravação: "";", " & R[0]C[2];"") & SE(R[0]C[3]<>"";", " & R[0]C[3];"") & SE(R[0]C[4]<>"";", " & R[0]C[4];"") & SE(R[0]C[5]<>"";", " & R[0]C[5];"") & SE(R[0]C[6]<>"";", " & R[0]C[6];"") & SE(R[0]C[7]<>"";", " & R[0]C[7];"") & SE(R[0]C[8]<>"";", " & R[0]C[8];"") & ". [S.l.] Portal Deviante, " & TEXTO(R[3]C[-3];"DD/MM/YYYY") & ". Podcast. Disponível em: " & R[0]C[-2];"")">Tarik Fernandes, Marcelo de Matos, Lennon Ruhnke, Livia Nádia da Costa Leite, Natalia Nakamura, Roberto Spinelli
Edição: TalknCast
Citação ABNT: "";", " & R[0]C[2];"") & SE(R[0]C[3]<>"";", " & R[0]C[3];"") & SE(R[0]C[4]<>"";", " & R[0]C[4];"") & SE(R[0]C[5]<>"";", " & R[0]C[5];"") & SE(R[0]C[6]<>"";", " & R[0]C[6];"") & SE(R[0]C[7]<>"";", " & R[0]C[7];"") & SE(R[0]C[8]<>"";", " & R[0]C[8];"") & ". [S.l.] Portal Deviante, " & TEXTO(R[3]C[-3];"DD/MM/YYYY") & ". Podcast. Disponível em: " & R[0]C[-2];"")">Scicast #540: Alinhamento IA. Locução: Tarik Fernandes, Marcelo de Matos, Lennon Ruhnke, Livia Nádia da Costa Leite, Natalia Nakamura, Roberto Spinelli. [S.l.] Portal Deviante, 09/06/2023. Podcast. Disponível em: https://www.deviante.com.br/podcasts/scicast-540
Imagem de Capa: Freepik
Referências e Indicações
Consciência (SciCast #509)
Consciência artificial (SciCast #514)
Sugestões de literatura:
- https://arxiv.org/pdf/1606.06565.pdf
- https://vkrakovna.wordpress.com/category/ai-safety/
- https://docs.google.com/spreadsheets/d/e/2PACX-1vRPiprOaC3HsCf5Tuum8bRfzYUiKLRqJmbOoC-32JorNdfyTiRRsR7Ea5eWtvsWzuxo8bjOxCG84dAg/pubhtml
Sugestões de vídeos:
- https://www.youtube.com/playlist?list=PLqL14ZxTTA4fEp5ltiNinNHdkPuLK4778
Sugestões de links:
- https://intervalodeconfianca.com.br/2022/09/29/variancia-146-lei-de-goodhart/
- Carta para pausar a pesquisa em modelos avançados
- Especialistas se posicionando: Geoffrey Hinton se demitiu da Google para poder falar abertamente dos riscos
- Especialistas em alinhamento preocupados com a questão: Eliezer Yudkowsky, Max Tegmark, Paul Cristiano, Jan Leike
See omnystudio.com/listener for privacy information.