A @anthropicia , empresa por trás do Claude, defende que o mundo tenha um plano para pausar o avanço das IAs mais poderosas caso o risco saia do controle.
E a metáfora é simples: criamos um carro de corrida absurdo… mas esquecemos de instalar os freios.
O medo agora é a chamada melhoria recursiva: quando uma inteligência artificial começa a ajudar a criar versões melhores de si mesma.
A pergunta não é mais se a IA vai ficar mais inteligente. Ela vai.
A pergunta é: quem continua no controle quando uma IA começa a participar da própria evolução?
Talvez o maior risco não seja a máquina acordar. Talvez seja o ser humano dormir no volante. Você acha que ainda dá tempo de pisar no freio?
#filosofiadatecnologia #ia #agi #tecnologia