Zhvillimi i vrullshëm i inteligjencës artificiale ka nxitur një valë të re paralajmërimesh. Studiues të sigurisë së AI-së thonë se sistemet gjithnjë e më të fuqishme mund të bëhen të paparashikueshme dhe, në skenarin më të keq, të paraqesin kërcënim për ekzistencën e njerëzimit. Shqetësimi kryesor është se kompanitë, të shtyra nga fitimi dhe konkurrenca, mund ta përshpejtojnë zhvillimin pa masa të mjaftueshme sigurie.
Drejtuesi i Anthropic, Dario Amodei, ka kërkuar ngadalësimin e kësaj gare, duke propozuar kontrolle të pavarura, standarde kombëtare të sigurisë dhe bashkëpunim ndërkombëtar. Thirrja e tij ka marrë mbështetje edhe nga figura të fuqishme të industrisë, përfshirë Sam Altman, Elon Musk dhe drejtues të tjerë të teknologjisë.
Megjithatë, jo të gjithë pajtohen me parashikimet më alarmuese. Disa ekspertë vlerësojnë se rreziku po ekzagjerohet, ndërsa të tjerë paralajmërojnë se do të ishte e papërgjegjshme të injoroheshin pasojat e mundshme. Debati tani nuk është më vetëm se sa e dobishme mund të bëhet AI-ja, por nëse njerëzimi do të arrijë ta kontrollojë atë përpara se zhvillimi të ecë shumë larg.