Breve comentário sobre a carta "Pausing AI Developments Isn’t Enough. We Need to Shut it All Down", de Yudkowsky

Postado como comentário a uma chamada no website Hacker News em 25 de maio de 2025. A carta aberta original redigida por Eliezer Yudkowsky foi publicada no portal da Revista Time em 29 de março de 2023.

According to Mr. Yudkowsky, what it takes to get us out of danger's way is "a plan", which he surely would back up... A plan -- not direct action against the system which made this whole situation possible in the first place. I understand his preoccupation, but he makes it seem like salvation for humanity is just a matter of the industry going easy with this. It reminds me of Chinese factories and coal generators going offline for a couple of days so there can be beautiful blue skies in Beijing by the time Victory Day comes. Never mind that we, the powerless, are already shaken by the menace of nuclear war, the rise of neo-fascism, and unprecedented natural disasters. So we're supposed to believe the whole danger lies with AI now? Why should we care when presented with another danger if we never ceased to be surrounded by danger in the first place? Respectfully, I believe Mr. Yudkowsky's opinions are not radical enough. C'mon, Eliezer, what would Sarah Connor do? Me, if someone came up with a "Terminator 2: Judgement Day" kind of plan, I would surely back it up.

Não se engane. Yudkowsky construiu sua carreira aliando-se a criptocornos e bilionários — dentre eles líderes de algumas das mais perigosas e imorais corporações de toda a história. Ele é considerado um dos mais proeminentes intelectuais divulgadores do projeto ideológico entitulado "altruismo eficaz", movimento que, além de se preocupar com o avanço da indústria tecnológica, aparentemente também precisa dividir esforços para mitigar uma preocupante cultura de assédio sexual que se formou no seu meio. Além disso, os maiores nomes do altruismo eficaz são notoriamente envolvidos com filantropia, porém notoriamente tolerantes com acumuladores de riqueza e com a hegemonia do Norte global.

Os donos do poder continuam tentando escrever nossa história no nosso lugar. Querem tudo: o protagonismo, o dinheiro, o direito de determinar o que é o bom e quem é bom. O que há entre eles e nós não é apenas uma divergência de prioridades, mas uma dissonância radical — ontológica, epistêmica, ética, discursiva, axiológica. É como se vivêssemos em realidades distintas.

Metáforas que evocam "conflito" me soam bastante adequadas para descrever essa situação. E tudo que remete a "resistência", mesmo que metaforicamente, também me soa justo agora.