Pastarosiomis savaitėmis buvo labai domimasi dirbtiniu intelektu ir galimomis neigiamomis jo pasekmėmis. JAV didžiųjų technologijų atstovai, vadovaujami Elono Musko, paskelbė atvirą laišką, kuriame ragina paskelbti moratoriumą eksperimentams su pažangiomis dirbtinio intelekto sistemomis, kol valstybės pasivys jų progresą ir imsis reikiamų veiksmų, kad sukurtų apsaugos priemones nuo su naujomis technologijomis susijusių pavojų.
Laiške jie kelia aštrius klausimus, pavyzdžiui, ar žmonija turėtų kurti dirbtinius protus, kurie galėtų pergudrauti žmones ir mus pakeisti, ir ar turėtume rizikuoti prarasti savo civilizacijos kontrolę. Jie pareiškia, kad tokių sprendimų negalima atiduoti savanaudiškiems technologijų lyderiams.
Atrodo, kad technologijų lyderiai mano, jog pasiekėme tašką, kai dirbtinio intelekto kūrimo saugumas negali būti užtikrintas, o tai reiškia, kad bet kokia nauda, gauta naudojant šią technologiją, gali būti niekis, palyginti su galimomis katastrofiškomis jos pasekmėmis. Tačiau visiškai neaišku, ar technologijų plėtros džiną ir jame slypintį didžiulį pelną bei galią galima sugrąžinti atgal į butelį arba pristabdyti.
bet kokia nauda, gauta naudojant šią technologiją, gali būti niekis, palyginti su galimomis katastrofiškomis jos pasekmėmis.
Diskusijose apie dirbtinį intelektą ima dominuoti saugumo ir kontrolės klausimai. Paprasčiau supažindinti žmones su tuo, kad dėl robotizacijos gali būti prarasti milijonai darbo vietų arba kad su dirbtiniu intelektu susijęs automatizavimas gali lemti jo kontrolės praradimą. Tačiau šis klausimas paliečia pagrindinius žmonijos etinius iššūkius, su kuriais jau šimtmečius kovoja visos didžiosios religijos ir civilizacijos. Todėl šis klausimas yra daug gilesnis ir dar pavojingesnis.
Oksfordo matematikas Johnas Lennoxas, knygos „2084 m. Dirbtinis intelektas ir žmonijos ateitis” autorius, teigia, kad dėl naujų technologijų kylančios grėsmės yra analogiškos toms, kurios įvardytos Džordžo Orvelo knygoje „1984″.
Jos kyla visuomenėse, kuriose vyksta spartus sekuliarizacijos procesas. Vietoje krikščionybės atsiranda naujos ideologijos, tokios kaip scientologija, natūralizmas ir transhumanizmas, kurios peržengia ribas, susijusias su tabu, nustatytais religinio supratimo apie tai, kas šventa.
Tai reiškia, kad tikėjimu grindžiamas žmogaus egzistencijos slėpinys griūva, o kartu su juo ir visos etinės ribos, stabdančios žmogų nuo visų naujų technologinių galimybių pritaikymo. Lennoxas daro prielaidą, kad galime būti pakeliui į visų didžiausių XX a. padarytų klaidų pakartojimą.
