Мертві раби живих машин

Мертві раби живих машин

12 лютого за китайським календарем розпочався рік Білого металевого Бика. Але «Година Бика», як у фантастичному романі Івана Єфремова, вже стартувала давно. До чого призведе людство створений землянами штучний інтелект?

Засновник новаторських високотехнологічних компаній Tesla та SpaceX Ілон Маск ще у 2018 р. під час конференції South by Southwest в м. Остіні (Техас, США) жбурнув у маси пророчо-ексцентричну тезу про те, що штучний інтелект (AI) є небезпечнішим за ядерну зброю. Чи це так, спробував розібратися на сайті «Радіо Свобода» Георгій Вишня – управлінець у сфері IT, фахівець із систем штучного інтелекту, машинного навчання, есеїст.
Отже, заява Ілона Маска, мов каталізатор, додала наснаги прихильникам концепції «всезагального» штучного інтелекту (AGI – artificial generic intelligence), що пророкують повстання універсального машинного інтелекту, який набуде здібностей, досі невідомих природному інтелекту людини, й відтак занапастить людство.
Реальність, однак, дещо інша.
«Ми спостерігаємо, що сучасні системи штучного інтелекту, попри фантастичні успіхи – як, наприклад, у царині шахів, де уже досить давно існують комп’ютерні програми, що доволі легко перемагають навіть найсильніших у світі шахістів, або ж те, що значна кількість великих компаній оперують чат-ботами, що автоматизують та прискорюють обробку звернень їхніх клієнтів без залучення людей-операторів – мають істотні й фундаментальні обмеження», – вважає Григорій Вишня та наводить такі аргументи:
«Системи штучного інтелекту успішно вирішують лише якийсь єдиний тип задач – той, для якого ці системи було спроєктовано від самого початку.
У них немає можливості «перемикати контекст», переключаючись з одного типу задач на інший, так, як це вміють робити люди.
Для того, щоб зуміти виконувати свою задачу, системам штучного інтелекту потрібен певний час для навчання, а також інформація щодо «еталонної правди». Тобто необхідна певна кількість еталонних даних, на яких систему навчають перш, ніж запустити в експлуатацію. І це стосується навіть надсучасних нейронних мереж.
У моменти істотних змін зовнішніх умов, коли вхідні параметри для системи штучного інтелекту перестають поводити себе в такий спосіб, як це спостерігалось у момент її початкового навчання, виникає необхідність Тимчасового зняття системи з експлуатації для повторного навчання вже за нових умов.



Усі ці вищезгадані обмеження натякають на існування «деміургів» – тих, хто визначає цілі систем штучного інтелекту, організує їхнє навчання, формує для них навчальні дані (ту ж саму «еталонну правду»), визначає правила й соціальні норми вжитку систем штучного інтелекту та зрештою запускає їх в експлуатацію. Тобто, мова іде про людей».
Український управлінець у сфері IT, фахівець із систем штучного інтелекту та машинного навчання звертає увагу, що сучасні системи штучного інтелекту, попри фантастичні успіхи – як, наприклад, у царині шахів, де уже досить давно існують комп’ютерні програми, що доволі легко перемагають навіть найсильніших у світі шахістів (в тому числі Гаррі Каспарова!), або ж те, що значна кількість великих компаній оперують чат ботами, що автоматизують та прискорюють обробку звернень їхніх клієнтів без залучення людей-операторів – мають істотні й фундаментальні обмеження.
Ось лише деякі з них:
– системи штучного інтелекту успішно вирішують лише якийсь єдиний тип задач – той, для якого ці системи було спроєктовано від самого початку;
– у них немає можливості «перемикати контекст», переключаючись з одного типу задач на інший, так, як це вміють робити люди.
– для того, щоб зуміти виконувати свою задачу, системам штучного інтелекту потрібен певний час для навчання, а також інформація щодо «еталонної правди». Тобто необхідна певна кількість еталонних даних, на яких систему навчають перш, ніж запустити в експлуатацію. І це стосується навіть надсучасних нейронних мереж;
– у моменти істотних змін зовнішніх умов, коли вхідні параметри для системи штучного інтелекту перестають поводити себе в такий спосіб, як це спостерігалось у момент її початкового навчання, виникає необхідність тимчасового зняття системи з експлуатації для повторного навчання вже за нових умов.
Від розробників залежить автоматизована зброя, що поцілюватиме живі об’єкти без втручання людей-операторів, і навіть помилково-упереджені рішення систем через викривленість початкових навчальних даних (algorithmic bias).
Яскравим прикладом подібної ситуації була бан платформа YouTube каналу хорватського шахіста Антоніо Радіча, одного з популярних світових шахових оглядачів, через підозру в «расизмі» на підставі аналізу матеріалів його каналу системами штучного інтелекту. Власне, і блокування попереднього Президента США Дональда Трампа в соцмережах відбулося також після того, як штучний інтелект проаналізував більшість його висловлювань, проте тільки після рішення людей-експертів 45 главу Білого дому вимкнули з Мережі.



Однак, знаючи про способи створення й навчання сучасних систем штучного інтелекту, неважко пересвідчитися в тому, що ці ризики можуть стати реальними не через, власне, самі системи, а через отих самих «втаємничених невідомих» – «деміургів». Тобто, знову ж таки, людей.
Власне, ми впритул наблизилися до точки біфуркації, після проходження якої ми (людство в цілому) можемо опинитися в одному з двох цілком протилежних станів.
Григорій Вишня на «Радіо Свобода» моделює 2 ситуації, в яких невдовзі можуть опинитися земляни:
«Перший. Цивілізація перетвориться у суспільство тотального контролю (хтось міг би назвати його ультраіндустріальним суспільством), в якому «деміурги», озброєні засобами систем штучного інтелекту, отримають можливість на кожному регулювати життя більшості людей.
Другий. Суспільство творців, де системи штучного інтелекту допоможуть людям звільнитися від рутини, відчути солідарність та спрямувати свій вільний час на творчу діяльність».
Про небезпеку першого сценарію попереджав ще Іван Єфремов – видатний енциклопедист, палеонтолог світового рівня, археолог, мандрівник, філософ та самобутній письменник-фантаст. У 1968 р. було вперше російською мовою опубліковано його пророчий роман «Година Бика», українська версія якого побачила світ лише в 1990 р. Хоч роман і був фантастичним за антуражем, зображені там суспільні формації двох планет були насправді варіантами розвитку майбутнього для нас – землян.
«В одному з тих світів (Торманс) ми спостерігаємо суспільство, де все ретельно регламентовано, і всі верстви населення підпорядковані чітким приписам від «вищих» (їх автор називає «змієносцями») та «верховних» (Ради Чотирьох). А наглядають за виконанням приписів тамтешньої еліти автоматизовані засоби контролю, які можна було б із легкістю назвати системами штучного інтелекту», – пише фахівець.
Спроби реалізації подібної ультраіндустріальної моделі помітні в сучасному Китаї, де система соціального рейтингу громадян (social credit system) під управлінням систем штучного інтелекту, створення якої було анонсовано ще 6 р. тому, вже запущена в тестову експлуатацію у декількох провінціях країни. Поки вони ще далекі від повномасштабного впровадження, але збір персональних даних та їх аналіз поставлено на промислову основу з застосуванням систем штучного інтелекту. Власне, відео фіксація учасників дорожнього руху в Україні, власне, також крок на цьому шляху, бо вже не живий поліцейський, а машина визначає, який саме автомобіль чи громадянин винні в порушенні ПДР…
У романі Івана Єфремова нещасні жителі Тормансу таки змогли вирватися з пастки «деміургів», відновивши соціальну солідарність та довіру один до одного. 
«Чи зможемо ми, реальні земляни, виправдати віру в людство видатного письменника-провидця? Чи нас поглине нас тотальний електронний ультра-індустріальний кінець цивілізації? Це стане зрозумілим вже найближчими роками», – вважає Григорій Вишня.
Отже, 2021 р. – знову доленосний. Він проходить під знаком Білого металевого Бика. Але це тільки за китайським Гороскопом. Бо існує ще й «Година Бика», де люди стають рабами чи жертвами створених ними самими машин зі штучним розумом... Бо в лютому минулого року іранського фізика-ядерника Мохсена Фахрізаде вже вбили з кулемета зі штучним інтелектом та супутниковим наведенням…

Роман УСТИМЧУК.

На фото Агенцій Reuters, AFP та EPA-EFE: робот Софія, створений у 2018 р.;  система тотального контролю за людьми; похорон убитого фізика Мохсена Фахрізаде.


  • Коментуйте FaceBook
  • Коментуйте ВКонтакте
  • Опитування
  • Результати

Чи варто Україні запровадити візовий режим із громадянами Білорусі та Росії?

Чи варто Україні запровадити візовий режим із громадянами Білорусі та Росії?

Давно пора (476) - 88.6%
Пізно (15) - 2.8%
Яка різниця? (8) - 1.5%
А як тоді наші заробітчани поїдуть у РФ і РБ? (20) - 3.7%
Мені байдуже (16) - 3%