Богоподобният AI може да доведе до обезсилването или унищожаването на човешката раса, изказва притесненията си мегаинвеститорът Иън Хогарт

Иън Хогарт е финансирал над 50 компании, които разработват AI, но вече може би съжалява за избора си, предава Dir.bg.

Един от големите инвеститори в изкуствен интелект бие тревога за упоритото разработване на все по-умни машини, без създателите им да се интересуват от последствията. Рискът е, че скоро можем да видим AI-богове.

В коментар за Financial Times мегаинвеститорът Иън Хогарт си спомня скорошен разговор с изследовател на машинно обучение. Той му казал, че "отсега нататък" сме на ръба на развитието на изкуствен общ интелект (AGI) — признание, което го шокирало.

"Това не е универсален възглед", пише Хогарт, отбелязвайки, че "оценките варират от десетилетие до половин век или повече", преди AGI да се превърне във факт.

Все пак съществува напрежение между изрично търсещите AGI цели на AI компаниите и страховете на експертите по машинно обучение - да не говорим за обществеността - които разбират концепцията.

"Ако смятате, че може да сме близо до нещо потенциално толкова опасно", казах на изследователя, "не трябва ли да предупредите хората за случващото се?", разказа инвеститорът. "Той очевидно се бореше с отговорността, пред която беше изправен, но, както мнозина в областта, изглеждаше привлечен от бързината на прогреса."

Хогарт каза, че след тази среща мислите му се отклонили към четиригодишния му син.

"Докато обмислях света, в който той може да израсне, постепенно преминах от състояние на шок към гняв", пише той. "Чувствах се дълбоко погрешно, че произтичащите решения, които потенциално засягат всеки живот на Земята, могат да бъдат взети от малка група частни компании без демократичен надзор."

"Хората, които се надпреварват да изградят първия истински AGI, имат ли план да забавят темпото и да оставят останалия свят да има думата?", се запитал инвеститорът. Той се замислил, че също е "част от тази общност" като човек, който е инвестирал в над 50 стартиращи AI компании.

"Свръхинтелигентен компютър, който се учи и развива автономно, който разбира своята среда без нужда от надзор и който може да трансформира света около себе си.", така обяснява AGI мегаинвеститорът.

"За да бъде ясно, все още не сме тук", продължи Хогарт. "Но естеството на технологията означава, че е изключително трудно да се предвиди точно кога ще стигнем до там. Богоподобният AI може да бъде сила извън нашия контрол или разбиране. Тя може да доведе до обезсилването или унищожаването на човешката раса."

"Те все още не знаят как да преследват целта си безопасно и нямат надзор", размишлява Хогарт. "Те тичат към финалната линия, без да разбират какво се крие от другата страна."

Въпреки че планира да инвестира в стартиращи фирми, които ще се стремят към AI по-отговорно, Хогарт каза, че не е получил много разбиране от колегите си.

"За съжаление, мисля, че надпреварата ще продължи", пише мегаинвеститорът. "Вероятно ще е необходимо голямо злоупотреба - катастрофа - за да събудим обществеността и правителствата."