Людина, яку багато хто вважав хрещеним батьком штучного інтелекту (ШІ), залишив свою роботу, попереджаючи про зростаючі небезпеки від розробок у цій галузі.

75-річний Джеффрі Хінтон оголосив про свою відставку з Google у заяві для New York Times, зазначивши, що тепер він шкодує про свою роботу.

Він сказав BBC, що деякі небезпеки чат-ботів штучного інтелекту «досить страшні».

«Зараз вони не розумніші за нас, наскільки я можу судити. Але я думаю, що незабаром вони цього досягнкть».

Доктор Хінтон також погодився з тим, що його вік вплинув на його рішення залишити технологічний гігант, сказав BBC: «Мені 75, тож пора йти на пенсію».

Піонерські дослідження доктора Хінтона щодо нейронних мереж і глибокого навчання проклали шлях для сучасних систем ШІ, таких як ChatGPT.

У сфері штучного інтелекту нейронні мережі – це системи, які схожі на людський мозок у тому, як вони вивчають і обробляють інформацію. Вони дозволяють штучному інтелекту навчатися на досвіді, як і людина. Це називається глибинним навчанням.

Британсько-канадський когнітивний психолог і комп’ютерний вчений сказав ВВС, що чат-боти незабаром можуть випередити рівень інформації, який зберігає людський мозок.

«Наразі ми бачимо, що такі речі, як GPT-4, затьмарюють людину за обсягом загальних знань, які вона має, і значно перевершують їх. З точки зору аргументації, це не так добре, але це все ж таки прості міркування», – сказав він.

«І враховуючи швидкість прогресу, ми очікуємо, що ситуація покращиться досить швидко. Тому нам потрібно про це турбуватися».

У статті New York Times доктор Хінтон згадав про «погані особистості», які намагалися б використовувати ШІ для «поганих речей».

На прохання ВВС розповісти про це він відповів: «Це лише найгірший сценарій, якийсь сценарій жахів».

«Ви можете собі уявити, наприклад, якийсь погана особистість, як [президент росії Володимир] путін, вирішив дати роботам можливість створювати власні підцілі».

Вчений попередив, що в кінцевому підсумку це може «створити підцілі на зразок «Мені потрібно отримати більше влади»».

Він додав: «Я дійшов висновку, що тип інтелекту, який ми розвиваємо, дуже відрізняється від інтелекту, який ми маємо».

«Ми біологічні системи, а це цифрові системи. І велика різниця полягає в тому, що з цифровими системами у вас є багато копій того самого набору ваг, тієї ж моделі світу.

«І всі ці копії можуть навчатися окремо, але миттєво ділитися своїми знаннями. Таким чином, це так, ніби у вас є 10 000 людей, і щоразу, коли одна людина чогось дізнається, усі ці люди автоматично дізнаються. І саме тому ці чат-боти можуть знати набагато більше, ніж будь-яка особа».

Метт Кліффорд, голова Агентства передових досліджень та винаходів Великобританії, виступаючи від себе, сказав BBC, що заява доктора Хінтона «підкреслює швидкість, з якою прискорюються можливості ШІ».

«Ця технологія має величезні переваги, але важливо, щоб світ інвестував значні та термінові кошти в безпеку та контроль за ШІ– сказав він.

Доктор Хінтон приєднується до зростаючої кількості експертів, які висловлюють занепокоєння з приводу штучного інтелекту – як швидкості, з якою він розвивається, так і напрямку, в якому рухається.

«Нам потрібно зробити крок назад»

У березні у відкритому листі, підписаному десятками людей у сфері штучного інтелекту, включно з технологічним мільярдером Ілоном Маском, закликали призупинити всі розробки, більш прогресивні, ніж поточна версія чат-бота AI ChatGPT, щоб можна було розробити надійні заходи безпеки та їх реалізувати.

Йошуа Бенгіо, ще один так званий хрещений батько штучного інтелекту, який разом з доктором Хінтоном і Янном Лекуном отримав премію Тюрінга 2018 року за роботу з глибокого навчання, також підписав листа.

Пан Бенгіо написав, що саме через «несподіване прискорення» систем ШІ «нам потрібно зробити крок назад».

Але доктор Хінтон сказав BBC, що «в короткостроковій перспективі», на його думку, штучний інтелект принесе набагато більше переваг, ніж ризиків, «тому я не думаю, що ми повинні припиняти розробку цього», – додав він.

Він також сказав, що міжнародна конкуренція означатиме, що пауза буде важкою. «Навіть якби всі в США припинили його розробку, Китай просто отримав би велике лідерство», – сказав він.

Доктор Хінтон також сказав, що він є експертом у науці, а не в політиці, і що уряд зобов’язаний забезпечити розробку штучного інтелекту «з великим обдумуванням того, як зупинити його шахрайство».

«Відповідальний підхід»

Доктор Хінтон підкреслив, що він не хоче критикувати Google і що технічний гігант був «дуже відповідальним».

«Насправді я хочу сказати кілька хороших речей про Google. Вони викликають більше довіри, навіть, якщо я не працюю на Google».

У своїй заяві головний науковий співробітник Google Джефф Дін сказав: «Ми залишаємося відданими відповідальному підходу до ШІ. Ми постійно вчимося розуміти нові ризики, а також сміливо впроваджуємо інновації».

Важливо пам’ятати, що чат-боти зі штучним інтелектом є лише одним із аспектів штучного інтелекту, навіть якщо вони зараз найпопулярніші.

Штучний інтелект стоїть за алгоритмами, які визначають, що платформи потокового відео вирішать, що вам слід дивитися далі. Його можна використовувати під час найму для фільтрації заявок на роботу, страховики для розрахунку премій, він може діагностувати захворювання (хоча останнє слово залишається за лікарями).

Проте зараз ми бачимо зростання AGI – штучного загального інтелекту, – якого можна навчити робити ряд речей у межах компетенції. Так, наприклад, ChatGPT може пропонувати лише текстові відповіді на запит, але можливості в цьому, як ми бачимо, безмежні.

Але темпи прискорення ШІ здивували навіть його творців. Відтоді, як у 2012 році доктор Хінтон створив новаторську нейронну мережу для аналізу зображень, вона різко змінилася.

Навіть бос Google Сундар Пічаї сказав у недавньому інтерв’ю, що навіть він не до кінця розуміє все, що робить його чат-бот ШІ Bard.

Не помиляйтеся, зараз ми на швидкісному потязі, і нас хвилює те, що одного дня він почне будувати власні колії.

Джерело: https://www.bbc.com/news/world-us-canada-65452940