МАТЕРИАЛИ
Отворено писмо: Приоритети в изследванията на роботиката и ползите от изкуствения интелект
В началото на годината Илън Мъск, Стивън Хокинг, преподаватели от университетите в Оксфорд и Кеймбридж, разработчици от Google и част от основателите на DeepMind (стартираща компания в областта на технологиите за изкуствен интелект), подписаха Отворено писмо за опасностите, които произтичат от напредъка в развитието на този вид технологии. Авторите на Отвореното писмо призовават за по-задълбочени проучвания и обезпечаване полезността на все по-бързо развиващите се разработки. „Именно поради огромния му потенциал е важно да проучим как да се възползваме от изкуствения интелект, като в същото време избягваме рисковете. Препоръчваме провеждането на задълбочени проучвания, които да ни уверят, че системите с изкуствен интелект, ставащи все по-мощни, ще бъдат гъвкави и податливи на контрол, и ще бъдат полезни за хората.“
Опасения спрямо технологиите за изкуствен интелект съвсем наскоро изрази и Стив Возняк (един от създателите на Apple). Според Возняк, изземвайки функции, които днес са отговорност на хората, изкуственият интелект може да заличи креатвиността. Според него стремежът към подобен технологичен напредък е прибързан. „Подобно на личности като Илън Мъск и Стивън Хоукинг, и аз мисля, че бъдещето е много плашещо и лошо за човечеството – споделя Возняк в интервю за Australian Financial Review. – Ако построим такива системи, които да се грижат за нас [посредством изкуствен интелект], те ще започнат да мислят по-бързо от нас и в един момент може да се оттърват от бавните човешки същества, за да поемат управлението.“
Малко преди него в същия смисъл се изказа и Бил Гейтс (съоснователя на Microsoft) – на сесия за въпроси и отговори с участниците в internet-форума Reddit „AmA“ от началото на 2015 г. „Аз съм от групата хора, които са обезпокоени от възникването на суперинтелект – призна опасенията си Гейтс. – В началото умните машини ще вършат за нас маса полезна работа и няма да притежават суперинтелект. Това ще има позитивен ефект, само ако управляваме процеса нормално. Но след едно-две десетилетия изкуственият интелект ще стане достатъчно силен, за да предизвика безпокойство.“ Малко след това в интервю за Backchannel той изрично посочи, че не се опитва да забави техническия прогрес, но насочва общественото внимание върху два потенциални проблема: възможността системи с изкуствен интелект да започнат да изместват хората в работата, която са вършили до момента и която е важна за самите тях и за близките им; и възможността един суперинтелект да еволюира до състояние, „конфликтно с целите на човешките системи“.
В тази връзка изобретателят Илън Мъск (осъществяващ ключова роля в компании като SpaceX, Tesla Motors и PayPal) директно определя системите с изкуствен интелект като сериозна заплаха за човечеството. В своя публикация в Tweeter от края на 2014 г. той призова „да сме пределно внимателни с изкуствения интелект, [защото] потенциално той е много по-опасен от ядрените бойни глави“. Минути по-къно добави: „Надявам се, че всички ние няма да се окажем в ролата на „зареждаща програма“ за бъдещ суперинтелект. Но ми се струва, че нещата отиват точно натам.“ И това не е единственото му изказване в подобен смисъл. В свое интервю за CNBC той отправи обръщение към всички учени да проявят максимална предпазливост и внимание при разработването на технологии за изкуствен интелект, като сравни възможния хоризонт за човечеството със сюжета на филма „Terminator“. Това провокира Мъск да инвестира $10'000'000 за разработване на системи за осигуряване безопасността на системите с изкуствен интелект.
Сходна позиция застъпва и Стивън Хокинг в своя статия от средата на 2014 г. Според него „изкуственият интелект е добра идея – поне на теория. На практика обаче, тази технология може да доведе до много нежелани последствия“. Според Хокинг дори в настоящия момент равнището на науката в областта на изкуствения интелект вече поражда определени рискове за човечеството. „Докато краткосрочното влияние на изкуствения интелект зависи от това кой го контролира – твърди физикът, – дългосрочното ще зависи от това дали изобщо ще можем да го контролираме. (...) Ако една превъзходстваща ни извънземна цивилизация ни изпрати следното съобщение: „Ще дойдем след няколко десетилетия“, дали ще отговорим „Добре, обадете ни се като пристигнете, ще оставим светлините включени“? Вероятно не – но до голяма степен точно това се случва с изкуствения интелект.“
Съвсем противоположна е позицията на Алекс Гарланд (сценарист и режисьор, и автор на филма „Ex Machina“, в който се разказва за сблъсък между човешки същества и хуманоиден робот с изкуствен интелект). „Отнасям се доста подозрително към хората и съм притеснен за тях – заявява Гарланд. – Не така обаче се чувствам към роботите. Мисля, че те всъщност може да бъдат по-разумни от нас“. С поставянето на своя филм той цели да провокира разработчиците да побързат със създаването на реални хуманоиди с изкуствен интелект. „Привлечен съм от идеята за изкуствен интелект – споделя той, – защото интелигентните и чувствителни роботи са продължение на нас, хората. С тях се свързва бъдещето в дългосрочен план – далеч след нас във времето. Нашето бъдеще е доста ограничено. Ние ще измрем на тази скала. Съществата, натоварени с изкуствен интелект, могат да живеят по-дълго. Мисля, че те са нашето бъдеще.“
Сходна позиция застъпва и Рей Курцвейл (експерт в областта на изкуствения интелект). Според него хората се опитват да подобрят своя живот и самите себе си чрез усъвършенстване на технологиите за изкуствен интелект. „Няма да има никакво „Ние срещу машините“ – изтъква Курцвейл. – Ние разширяваме собствените си възможности чрез мислещи машини.“
Следва самото Отворено писмо (подписано към настоящия момент от 6'281 лица – голяма част от които свързани по един или друг начин с информационните технологии и с едитчните проблеми, които произтичат от тях).
Отворено писмо: Приоритети в изследванията на роботиката и ползите от изкуствения интелект
Още от началото на изследванията във връзка с изкуствения интелект (Artificial intelligence – AI) са разгледани множество проблеми и подходи, но през послените 20 години вниманието се фокусира [само] върху проблемите, свързани с изграждането на интелигентни машини – способни да възприемат и действат в определена среда. В този контекст „интелигентността“ се свързва със статистическите и икономически понятия за рационалност – казано на прост език – със способността за вземане на адекватни решения, планирането и достигането до определени умозаключения. Прилагането на вероятностни методи, теоретични модели за вземането на решения и такива за учене чрез статистически натрупвания спомогнаха за големия напредък в посока взаимната интеграция и обогатяване на технологиите за изкуствен интелект, машинното обучение, статистиката, теорията на управлението, неврологията и много други. Утвърждаването на общи теоретични рамки, съчетани със съществуващите бази данни и изчислителна мощ даде възможност за постигането на забележителен успех в справянето с редица задачи – разпознаване на речта, категоризиране на изображения, управляване на превозни средства, машинен превод, придвижване чрез роботизирани крака, автоматизирано отговаряне на въпроси.
Тъй като изграденият капацитет в тези и свързани с тях направления придобива способността да прекрачи границата от чисто лабораторните изследвания към създаването на икономически значими технологии, се пуска в действие цикълът от добри намерения, където дори малки подобрения в производителността са от естеството да осигурят значителни печалби, което води до още по-големи инвестиции в научни изследвания по тези направления. Налице е широк консенсус за това, че изследванията в областта на изкуствения интелект бележат устойчив напредък и въздействието на този напредък върху обществото по всяка вероятност ще се увеличава. Потенциалните ползи са огромни, тъй като всичко, което цивилизацията е в състояние да ни предложи, е продукт на човешкия интелект. Ние дори не можем да си представим какво бихме могли да постигнем, ако към тази интелигентност прибавим инструментите на изкуствения интелект. Най-малкото бихме опитали да прозрем как да изкореним болестите и бедността. Поради неговия голям потенциал, е важно да изследваме как да извлечем полза от изкуствения интелект, внимавайки да не попаднем в неговите капани.
Постигнатият напредък в изследванията на изкуствения интелект ни задължава по-скоро да фокусираме нашите размишления върху това как обществото да се облагодетелства от него – не само върху въпросите, свързани с повишаване на неговите рационални способности. Около такива съображения се обедини Асоциацията за усъвършенстване на изкуствения интелект (Association for the Advancement of Artificial Intelligence – AAAI) на Президентския панел за дългосрочни проекти по отношение бъдещето на изкуствения интелект и неговото въздействие (2008-09) – което значително разширява полето на изследванията на изкуствения интелект, съсредоточавани до този момент само върху технологиите, които са неутрални спрямо целта. Препоръчваме обхватът на изследванията да бъде разширен и последните да се насочат към създаването на гаранции, че все по-мощните системи с изкуствен интелект ще бъдат стабилни и благоприятни; ще правят това, което искаме да правят. Приложеният документ с изследователски приоритети дава много примери за такива направления, които са в състояние да спомогнат за максимизиране на ползите за обществото от изкуствения интелект. По необходимост изследователските приоритети са интердисциплинарни, тъй като изискват за своето проследяване както човешки съображения, така и такива от страна на изкуствения интелигент. Това включва икономически, юридически, философски въпроси, такива по отношение на компютърната сигурност, формалните методи и не на последно място – различни клонове от областта на самия изкуствен интелект.
В обобщение – ние вярваме, че изследването на въпроса за това как да направим системите с изкуствен интелект стабилни и полезни е както навременно, така и много важно, и има в тази връзка множество направления за изследване, чието разработване трябва да стартира още днес.
Още от началото на изследванията във връзка с изкуствения интелект (Artificial intelligence – AI) са разгледани множество проблеми и подходи, но през послените 20 години вниманието се фокусира [само] върху проблемите, свързани с изграждането на интелигентни машини – способни да възприемат и действат в определена среда. В този контекст „интелигентността“ се свързва със статистическите и икономически понятия за рационалност – казано на прост език – със способността за вземане на адекватни решения, планирането и достигането до определени умозаключения. Прилагането на вероятностни методи, теоретични модели за вземането на решения и такива за учене чрез статистически натрупвания спомогнаха за големия напредък в посока взаимната интеграция и обогатяване на технологиите за изкуствен интелект, машинното обучение, статистиката, теорията на управлението, неврологията и много други. Утвърждаването на общи теоретични рамки, съчетани със съществуващите бази данни и изчислителна мощ даде възможност за постигането на забележителен успех в справянето с редица задачи – разпознаване на речта, категоризиране на изображения, управляване на превозни средства, машинен превод, придвижване чрез роботизирани крака, автоматизирано отговаряне на въпроси.
Тъй като изграденият капацитет в тези и свързани с тях направления придобива способността да прекрачи границата от чисто лабораторните изследвания към създаването на икономически значими технологии, се пуска в действие цикълът от добри намерения, където дори малки подобрения в производителността са от естеството да осигурят значителни печалби, което води до още по-големи инвестиции в научни изследвания по тези направления. Налице е широк консенсус за това, че изследванията в областта на изкуствения интелект бележат устойчив напредък и въздействието на този напредък върху обществото по всяка вероятност ще се увеличава. Потенциалните ползи са огромни, тъй като всичко, което цивилизацията е в състояние да ни предложи, е продукт на човешкия интелект. Ние дори не можем да си представим какво бихме могли да постигнем, ако към тази интелигентност прибавим инструментите на изкуствения интелект. Най-малкото бихме опитали да прозрем как да изкореним болестите и бедността. Поради неговия голям потенциал, е важно да изследваме как да извлечем полза от изкуствения интелект, внимавайки да не попаднем в неговите капани.
Постигнатият напредък в изследванията на изкуствения интелект ни задължава по-скоро да фокусираме нашите размишления върху това как обществото да се облагодетелства от него – не само върху въпросите, свързани с повишаване на неговите рационални способности. Около такива съображения се обедини Асоциацията за усъвършенстване на изкуствения интелект (Association for the Advancement of Artificial Intelligence – AAAI) на Президентския панел за дългосрочни проекти по отношение бъдещето на изкуствения интелект и неговото въздействие (2008-09) – което значително разширява полето на изследванията на изкуствения интелект, съсредоточавани до този момент само върху технологиите, които са неутрални спрямо целта. Препоръчваме обхватът на изследванията да бъде разширен и последните да се насочат към създаването на гаранции, че все по-мощните системи с изкуствен интелект ще бъдат стабилни и благоприятни; ще правят това, което искаме да правят. Приложеният документ с изследователски приоритети дава много примери за такива направления, които са в състояние да спомогнат за максимизиране на ползите за обществото от изкуствения интелект. По необходимост изследователските приоритети са интердисциплинарни, тъй като изискват за своето проследяване както човешки съображения, така и такива от страна на изкуствения интелигент. Това включва икономически, юридически, философски въпроси, такива по отношение на компютърната сигурност, формалните методи и не на последно място – различни клонове от областта на самия изкуствен интелект.
В обобщение – ние вярваме, че изследването на въпроса за това как да направим системите с изкуствен интелект стабилни и полезни е както навременно, така и много важно, и има в тази връзка множество направления за изследване, чието разработване трябва да стартира още днес.
