Ще завладее ли изкуственият интелект нашата планета?

Ще завладее ли изкуственият интелект нашата планета?

https://htpartners.com/wp-content/uploads/2018/05/iStock-866244116-1080x675.jpg

Истерията, която медиите раздухват около пандемията с коронавируса е наистина невероятна по своите мащаби. Впрочем не е трудно да се осъзнае, защо техните собственици притискат така яко журналистите си да я експлоатират. Печалбите им от  едни от най-щедрите рекламодатели в света – фармацевтичните компании, сега достигат невероятни размери! В резултат важни за нас – читатели, зрители, слушатели теми буквално изчезнаха от медиите. А когато тях ги няма в съдържанието им те престават   да имат и значение за нас.

Това определено не е в наша полза. Пандемията несъмнено рано или късно ще приключи. Тогава с изненада ще установим, че докато политици, рекламисти, журналисти и пр.,  са тъпчели главите ни с всевъзможни приказки около Ковид-19, в света са се случвали други, далеч по-значими за бъдещето, събития. И точно те, а не доста поизмислената пандемия ще имат съдбоносно значение за нас и най-вече за децата ни.

Като темата за изкуственият интелект (ИИ, алгоритми) например. За немалко хора, чиято главна задача е как да оцелеят в това объркано, трудно предсказуемо време, тя е далечна и дори чужда. Те са срещали информация за различни  учени и специалисти от университети и големи корпорации, които работят в тази област, но не виждат как тя би могла да има отношение към съдбата им.

А напразно: ИИ стремително навлиза в живота ни. Той  образова, поставя медицински диагнози, контролира производствени дейности, управлява автомобили и спътници… До масовото му внедряване във всички области – от образованието и медицината до индустрията и селското стопанство,  остават броени години. С него лично ще се запознаят хората, които сега са на средна възраст. А на техните деца  със сигурност ще им се наложи да си взаимодействат с ИИ в професионалната и социалната си реализация. Във всеки случай повсеместното разпространение на алгоритмите, които ще използваме навсякъде – от информирането ни до избора на оптимални решения на поведение, ще повлияе невероятно дълбоко на живота ни.

Но категоричен, ясен отговор на въпроса точно как това ще се случи, няма. За едни специалисти навлизането на ИИ ще подобри начина ни на живот, ще ни направи по-ефективни. За други ще е точно обратното – колкото по-ускорено се развиват алгоритмите и навлизат в нашата дейност, толкова по-глупави ще ставаме.

https://www.finam.ru/Images/u/newsonline/debriefing/201904/26.04.jpg

Така мисли френският философ Бернар Стиглер например. Той е шеф на Института за изследвания и иновации на парижкия център „Помпиду“. Стиглер е на мнение, че технологиите се развиват при отсъствие на необходими за тях знания и критична способност да се вземат решения и да се прави избор. Алгоритмите работят с вероятности и стимулират „стадни“ действия, споделя Стиглер пред журналисти. Ние употребяваме техника, която съкращава нашите знания за света. Мислим си, че използваме смартфона, но реално той прави това с нас – ние ставаме негови слуги.

А в списание Journal of Artificial Intelligence Research бяха публикувани резултати от интересно проучване на Институтът за човешко развитие Макс Планк (Германия). Международен екип  (освен немски, включва още учени от Университета на Южна Калифорния, от Автономния университет в Мадрид, от Института за мрежи IMDEA и Лоренцо Ковиело) стига до извода, че не би било възможно да се контролира свръхинтелигентен ИИ. Свързан с интернет, той ще получи достъп до всички данни на човечеството. Така ще е в състояние да замени съществуващи програми и да поеме контрола върху  онлайн машините в света. Какво ще се случи тогава – ще бъде ли излекуван рака, ще се  предотврати ли най-голямо климатично бедствие, ще се стигне ли до световен мир? Или човечеството ще бъде унищожено и алгоритмите ще завладеят нашата планета?

Да се разсъждава върху подобна ситуация става все по-актуално. Вече съществуват  алгоритми, които изпълняват самостоятелно  определени и при това важни задачи. Самите програмисти, които са ги създали са в недоумение как техните творения правят това и откъде са го научили. В действие са системи с изкуствен интелект, които се самообучават и самообразоват – независимо от техните „родители“. Най-вероятно подобни на тях в бъдеще ще надминат човешкия интелект.

Или на пръв поглед фантастично звучащата тема добива съвсем прагматично значение. Според Мануел Себриан – ръководител на групата за дигитална мобилизация в Центъра за хора и машини (Институт за човешко развитие Макс Планк) все по-актуален става въпроса дали това  в един момент може да стане твърде опасно за човечеството.

Учените са изследвали две различни идеи за това как може да се контролира свръхинтелигентен ИИ. От една страна, неговите възможности биха могли да бъдат конкретно ограничени – чрез преграждането му от интернет и всички други технически устройства например, така, че да не може да има контакт с външния свят. Но това ще го направи немощен и малко полезен за човека. Другият начин е да се програмират в него етични принципи. Но тези, както и други идеи за контрол на свръхинтелигентен ИИ имат своите граници.

https://24hitech.ru/wp-content/uploads/2020/01/08574484cec59dd961f44320f3840cc8.jpg

Учените са тестирали теоретичен алгоритъм за ограничаване, който да гарантира, че свръинтелигентния ИИ няма да може да навреди на хората при никакви обстоятелства. Неговата задача е незабавно да го спре, ако прецени, че действията му стават опасни и вредни за човека. Но се оказало, че точно такъв алгоритъм не може да бъде създаден. Той най-вероятно ще спре собствените си операции, в опита си да заповяда на ИИ да не унищожава света. Просто всеки алгоритъм за възпиране може да стигне до автоизключване и да стане безполезен. Но напълно е възможно свръзразумния ИИ сам да открие способ за изключване на своя „надзирател“.  Следователно няма алгоритъм, който да е в състояние  да намери решение за определяне дали ИИ би причинил вреда на света, заключават учените.

Проблем е и това, че ние, хората, дори може да не знаем, кога точно са се появили свръхинтелигентните машини. Решаването дали едни алгоритми проявяват интелигентност, която да е по-добра от хората, е подобно на ситуацията със създаването на алгоритъм за ограничаване. Изводът е:  суперинтелигентните алгоритми по принцип не могат да бъдат „обуздани“, да бъдат контролирани и управлявани. Ще се случи точно обратното: те ще се превърнат в реална заплаха за всички нас.

А на този фон цялата тази фантасмагория с пандемията от коронавирус ще ни изглежда като безобидна детска игра…