Футурологът Мариана Тодорова: Ако ИИ реализира точката на сингулярност, това би могло да е последното човешко изобретение

Има специализации по лидерство в Харвардския университет, Училището по управление на Джон Кенеди, в международната програма за лидерство (IVLP) от Държавния департамент на САЩ и в Китайската академия за управление.

През 2019 г. Тодорова е съавтор на книга: „Future studies and counterfactual analysis. Seeds of the future”, заедно с известния американски футурист Теодор Гордън (идеолог на 3-ти етап nа проект„ Аполо “за кацане на Луната. През 2020 г. тя издава своя собствена книга на български език: „Изкуствен интелект. Кратка история на развитието и етични аспекти по темата”.

Тодорова е председател на Millennium project и на Hera city, както и член на Световната академия на изкуствата и науките. Тази година Тодорова представлява България в ЮНЕСКО в междуправителствената среща за изработване на етическа рамка за изкуствен интелект. Ето какво заяви тя пред Actualno.com.

Може би да започнем с определена дефиниция: какво прави един футуролог, кое е онова, което може да предвиди и кое не, как самата вие дефинирате собствената ви професия? 

За да Ви отговоря, е необходимо да обясня и каква наука е футурологията (futurology), или изследвания за бъдещето, както е по-популярна в англосаксонския свят. Тя е интердисциплинарна наука, която, ползвайки и обединявайки методите от множество други хуманитарни и точни науки, прави прогнози за бъдещето. Те биха могли да бъдат: обикновени прогнози (представяне на единична визия за бъдещето, например кога ще свършат инфлационните процеси в Европа (forecast), улавяне и проследяване на тенденции и трендове (предвиждане как и защо ще стихнат неоконсервативните и популистки нагласи в някои държави (trend scouting and tracking), изграждане на сценарии или форсайт, когато описваме множество алтернативни бъдеща, с цел да „изплетем“ гъста мрежа от събития чрез използване на критериите: „възможност“, “вероятност“ и „правдоподобност“. Колкото повече дори взаимоизключващи се сценарии изградим, толкова по-вероятно е да схванем вярната посока. Всеки от тези похвати може да бъде описателна прогноза, която подготвя нашето мислене и умствена нагласа за бъдещето. Но те могат и да бъдат нормативни прогнози, които чрез залагане на ценности и стратегии в тях, биха се превърнали в пътна карта за желаното бъдеще и биха ни научили как да го „колонизираме“ и постигнем.

Футуролозите могат да бъдат: академични учени, които усъвършенстват методологията за прогнозиране и пишат научни статии и книги; политически и стратегически визионери, които спомагат управленските процеси в държавите или големите компании. Неслучайно, при встъпването си в мандат, всеки новоизбран американски президент получава доклад от 50 глобални тренда с прогнозна рамка до 50 г. Но те могат да бъдат и бизнес консултанти, които участват в дизайна на продуктите и услугите на бъдещето. В редица компании вече има позиции на Chief Futurist Officer или Chief Innovation Officer. Аз съм била и в трите роли.

Прогнозирането на бъдещи събития, предполагам, включва два типа работа: както дълбочинни познания, така и известна интуиция и въображение, която произтича от тях. На какво да се доверявате най-много?

Въпросът Ви е доста коректен. Много често към мен се обръщат различни хора, които ме молят да се превърна в техен ментор, така че да станат експерти - футуролози. На всички предлагам да запишат докторска програма, тъй като наистина е необходимо придобиване на специфично знание, което включва опознаването на всички прогностични методи, инструментариум за подготовка на анализи и метаанализи, каквито всъщност са прогнозите. Наистина, дигиталните технологии компресират времето и ускоряват скоростта на всички събития, което кара хората да търсят кратки пътища, т.нар. „евристики“ за всевъзможни решения. Но ние все още се развиваме линейно, а не експоненциално, подобно на технологиите и не можем просто да прескочим някои етапи в личностното си развитие. Макар, че Илън Мъск с проекта си Neurolink работи буквално за това да „налее“ информация и знание в мозъка ни. Тоест

да си футуролог е различно от това да си инфлуенсър.

Напоследък дори във футурологията все по-актуални стават количествените методи – лансиращи тезите за „базиране на доказателствата (evidence based) или „воденни от данните“ (data driven), но аз лично предпочитам качествените логико – интуитивни методи, които ангажират в голяма степен човешкото въображение. Затова и Филип Тетлок , известен футуролог, в книгата си „Superforcasting” (Суперпрогнозиране) показва, че най-талантливите и успешни прогнозисти ползват качествени методи и имат фина интуиция. Това доказва, че животът не може да бъде свръхрационализиран и инструментализиран.

В предишните десетилетия футурологията в голяма степен “работеше” в режима на научната фантастика, докато по-късно се обособи като отделна дисциплина, към която има огромен интерес поради множество причини: развитието на технологиите, климатичните промени, популярни имена като Харари и др. Кое е онова, което “остана” от фантастите и кое бе прибавено на научно ниво? 

До Втората Световна Война е имало само научна фантастика. Футурологията се дефинира като понятие през 1943 г. от немския социолог Флетхайм и обозначава нов дял от познанието, който включва различен ракурс към теорията за вероятността и цели да създаде оптимистична нагласа за света след силно преживяния травматизъм от събитията между 1939 г и 1945 г.

Фантастите обаче са много важни за футурологията.

Те могат да си позволят свобода на съзнанието, която е недопустима за науката,

стремяща се да борави само с рационални аргументи. Именно тази свобода и неограниченост прави често пъти фантастите по-успешни прогностици. Контактът с тях може да помогне на футуролзите да се освободят от излишните научни догми. Творчеството и въображението са доброто наследство, но самите футуролози боравят с над 50 научни методи.

В последната повече от година започнахме да говорим за “ново нормално”; това едновременно се превърна в клише, но и в реални и резки промени на всякакво ниво: политическо, икономическо, всекидневно. Кои са най-отявлените промени, които вие забелязвате и докъде ще доведат те? 

„Новата нормалност“ се установи за около година и половина и показа, че адаптационният отговор на човечеството към каквито и да е неблагоприятни обстоятелства, сработва доста бързо. Едно беше психологическото усещане по времето на първата и втората Ковид вълна, съвсем друго е сега и това не се дължи само на наличието на достатъчно ваксини. Като част от „новото нормално“ ще остане новият режим, който беше изпробван и се видя, че при такива обстоятелства сработва - на „теле и онлайн всичко“. „Теле и онлайн пазаруване“, „теле и онлайн упражняване на професията“, телемедицина. Теле и онлайн обучение, което същевременно отвори и голям дебат за ефективността, но и за качеството на преподаване. Най-вероятно, този хибриден режим ще се запази най-вече в упражняването на професиите, защото

в глобален мащаб показа ефективност, икономическа рентабилност, съкращаване на разходите на компаниите до 30-40 процента.

Налице е и желанието на самите работещи да ползват тази опция, тъй като те виждат повече предимства, а не недостатъци. Но, разбира се, има и психологически елементи, липса на социален контакт и умствени стимули при комуникация, на работна среда в офис пространство. Затова може да идентифицираме и предпоставки за един антиутопичен свят на затваряне в дигиталния близнак на нашата материална реалност, отказ от редица преживявания и разпад на обществени връзки и създаване на все по-малки общности. Това ще засилва навсякъде и кризата на управлението, тъй като ще са налице нарастващи различни интереси на все повече хетерогенни групи.

Можем ли да твърдим, че начинът, по който пандемията промени света, е сравнително неизбежен - тоест, че тя просто е “ускорила” определени промени? Или да смятаме обратното - че те нямаше да се случат, ако тя не бе настъпила? 

Мисля, че пандемията действително подейства като ускорител на вече съществуващи процеси и настъпващи промени. Друг феномен, който коронавирусът позволи да съзрем е, че

съществуват огромни неравенства по отношение не само на хората в една държава, но на обществата в различните държави –

неравенство по отношение на достъпа до социални и здравни услуги, икономическо неравенство и наличие на адекватни подпомагащи мерки и програми. Наскоро гледах документален филм за това как се управлява в първите дни и месеци корона кризата в Китай и САЩ. И силно централизираната система, и тази на либералната демокрация претърпяват крах, защото показват еднаква неподготвеност, което трябва да насочи човечеството към работа по идентифициране на набор от такъв тип заплаха и работа по стратегии за готовност за посрещане на подобни кризи.

В Япония, в САЩ, в Южна Корея доста от производствата, здравните грижи, персонал в хотели, магазини и болници бяха заменени от роботизация, автоматизация и технологизация именно заради стремежа да се спазва социална дистанция и да не присъстват физически хора на работните си места, там, където са застрашени. Това може да подейства като катализатор много професии да се трансформират или да изчезнат, или да бъдат заменени от роботите, изкуствения интелект, новите технологии. След като светът буквално „спря“ за два месеца, се видя, че доста мерки, които бяха образувани като икономически рамки, методи за икономиките на отделни държави като „зелените планове“ за икономика, всъщност са ефективни и биха работили. Просто трябва да има политическа воля те да се предприемат. Всъщност стана ясно, че макар и те да са болезнени, защото ще костват ресурси и работни места, то биха сработили.

Често говорите за ролята на изкуствения интелект в бъдеще - със сигурност много висока. По прогнози на Илън Мъск например, съвсем скоро по-голямата част от “интелекта”, който ще взема решения във всекидневието, ще бъде именно ИИ. До какво ще доведе тази промяна? 

Дигиталните технологии в синергия с тесния изкуствен интелект ще променят и смея да кажа дори „взривят“ всички сфери от човешкия живот и ще трансформират всяка една жизнена категория около, която израстваме и градим живота си- „раждане“, „образование“, „кариера“, „дълголетие“, „смърт“. Това, което имаме днес като налична технология е „Тесен изкуствен интелект“. Нарича се така, защото е създаден да адресира ограничени, единични задачи. Тесният изкуствен интелект вече заменя работещите в редица професии охранители, доставчици, счетоводители, офис мениджъри, но и трансформира области като юридическата и медицинската дейност, където базирани на изкуствен интелект програми правят: правен анализ, дю дилиджънс и дори са в ролята на „служебен защитник“ в англосаксонското право. Известна е платформата Dr. Watson, която диагностицира тривиални заболявания с до 87% точност.

Все повече, обаче той се ползва и за взимане на решения за отпускане на банкови кредити, за рискови инвестиции в стартап компании, за управление на „умни“ системи като „умни градове“, „фабрики“, „компании“. Но подобна помощ в дългосрочен аспект може да доведе до понижаване на когнитивните ни способности, до загуба на индивидуалността и човешкия ни суверенитет, до прекалена инструментализация и дехуманизация на множество процеси.

Паралелно с големия бум на технологиите се разраства и особена ответна реакция - на технофобия, на определено недоверие, подозрение, страх. Има ли действително опасност от развитието на ИИ и каква е тя? Доколко например са основателни страховете от холивудски тип - че един пределно развит ИИ би могъл да се превърне в опасност за човечеството? 

Ако възможността да полагаме когнитивни усилия и да се справяме с различни предизвикателства ни бъде „отнета“, то наистина това би било пагубно за нас. Чрез изследвания на функционален ядрено-магнитен резонанс вече е доказано, че

използваме различни зони на мозъка си, когато пишем ръкописно и диктуваме текст,

на платформа - изкуствен интелект, която може да транслира текста и го запише вместо нас. Същото се отнася за способността ни да учим езици или отказа от това, ползвайки платформи, който могат да превеждат успешно „от“ и „на“ над 180 езика. Не бива да забравяме и системите за следене чрез лицево разпознаване от изкуствен интелект, като системата за социален рейтинг в Китай.

Опасността, като непосредствена заплаха, а не като загуба на знания и умения, най-вече се съзира от появата на генерален и суперизкуствен интелект. В единия случай наблюдаваме изкуствен интелект с разбиращо знание и познавателни способности, които го правят неотличим от човек, въпреки, че скоростта и способността на обработка на данните ще с доста по-бърза и с несравним обем и капацитет. Такъв изкуствен интелект ще прави систематични обобщения, ще разсъждава и ще се учи от опита си. А в другия, за супер изкуствен интелект, който многократно би ни превъзхождал и реализира т.нар. точка на сингулярност. Затова и генералният изкуствен интелект, който почти моментално ще прерасне в супер изкуствен интелект се смята, че ще бъде последното човешко изобретение. Най-вероятно, защото в нищо повече ние ни бихме били конкурентоспособни на изкуствения интелект.

Голяма част от представителите на технологичните оптимисти, вярват, че освободеният капацитет на мозъка (от взимане на решения и пр.) би могъл да доведе до извеждане на преден план на нов тип емоционална интелигентност, което ще ни помогне да сме по-емпатични и да се фокусираме върху междуличностни отношения, сътрудничество и спасяване на планетата. Но това звучи твърде оптимистично.

С футуролога Герд Леонард

Климатичните промени са вероятно най-големият проблем, който ще трябва да се реши в близко бъдеще. Кои са онези подходи спрямо тях, които смятате за най-належащи? 

В момента популярност имат два тренда за причините за климатичните промени. Единият, който безспорно е доминиращият, твърди, че ние сме изправени пред глобално затопляне, дължащо се на емисиите от въглероден диоксид, а другият, че това по-скоро е резултат на разположението на земята ни, която заедно със слънчевата система и галактиката ни пътува с висока скорост във вселената и напротив, дори би могли да ни очаква нова форма на мини-ледникова епоха. Според много климатолози глобално затопляне има 100%, но все още не е научно обосновано, че това се дължи изцяло на парниковия ефект. Но има ясни доказателства, че наличието на въглероден диоксид се е увеличило в пъти в повърхностните слоеве на полярния лед. Дори по-консервативните политици да отричат тази връзка, то това е, което е в изцяло човешки контрол-ограничаване на тези емисии и преход към зелени икономики. Но това не означава само преминаване към алтернативни енергийни източници и електрически транспорт. Сегашните системи се стремят да стимулират потреблението, произвеждат се масови, евтини и достъпни стоки, което обаче безвъзвратно изтощава всички ресурси на планетата. Тоест, необходима ни е смяна предимно на мисловната парадигма, а от там и на социалния, политически и икономически ред.

Интервю на Райко Байчев