Вештачка интелигенција све више постаје део свакодневице, али нови експерименти показују да она није ни приближно поуздана колико се верује. Истраживања указују да AI може једнако уверљиво да заступа и истину и потпуну лаж, у зависности од података којима располаже.
Проблем лежи у томе што алгоритми не разликују истините од нетачних информација, већ само предвиђају највероватнији одговор. То значи да могу да генеришу текстове, анализе, па чак и „научне доказе“ који у стварности немају никакво утемељење.
Посебно забрињава експеримент у ком је креиран потпуно измишљен текст са лажним подацима и изворима, који су AI системи касније препознавали као релевантан и поуздан садржај. Чак и када је указано да је реч о неистини, модели нису мењали своје одговоре.
У појединим случајевима, вештачка интелигенција је упорно бранила нетачне тврдње, попут апсурдне идеје да је „2 + 2 = 5“, поткрепљујући их измишљеним референцама и објашњењима. Ово показује колико лако може доћи до манипулације и ширења дезинформација.
Стручњаци упозоравају да се AI све чешће користи као лични саветник — од здравља до финансија — што додатно повећава ризик ако се њени одговори некритички прихватају. Зато је неопходно проверити све добијене информације и не ослањати се искључиво на алгоритме.
