Напишіть параграф про управління.
Гонка озброєнь AI нагрівається, і прориви відбуваються в прискореному темпі.

Випуск ChatGPT від OpenAI являє собою глибокий стрибок у тому, як люди взаємодіють з машинами, демонструючи дивовижний прогрес у великих мовних моделях. Між тим, генеративні можливості AI, такі як Dall-E, Stable Diffusion і Midjourney, здатні генерувати високореалістичні і детальні зображення з текстових описів, демонструючи рівень творчості та уяви, який колись вважався виключно людським.

Люди, здається, фундаментально пов'язані з постійним просуванням технологій і поліпшенням наших знань і можливостей. Крім того, людський мозок має тенденцію мислити лінійно, змушуючи нас недооцінювати експоненціальний прогрес технологій. Компанії та нації стимулюються ринковими силами та геополітичною теорією гри, щоб переслідувати кращий інтелект через розвиток штучного інтелекту.

The Future of Life Institute нещодавно опублікував Pause Giant AI Experiments: An Open Letter. Лист - з помітними підписантами, включаючи Елона Маска, Стіва Возняка та Ендрю Ян - викликав занепокоєння, закликаючи до 6-місячної перерви на розвиток передового штучного інтелекту:

Тому ми закликаємо всі лабораторії штучного інтелекту негайно припинити, принаймні, на 6 місяців навчання систем штучного інтелекту, більш потужних, ніж GPT-4. Ця пауза повинна бути публічною і перевірятися, і включати всіх ключових акторів. Якщо таке припинення не може бути введено швидко, уряди повинні втрутитися і ввести мораторій».

Велика частина медіа та публічного дискурсу у відповідь на цей лист зосередилася на тому, хто його підписав, і відштовхнувся від уявлення про те, що людство стикається з неминучою екзистенційною загрозою штучного суперінтелекту. Дистопічні твердження про втечу штучного інтелекту здаються гіперболічними для багатьох людей, і закликати до шестимісячного мораторію не реалістично. Удачі переконайте Китай «перервати» свої зусилля в гонці на озброєння.

Але чи немає кордонів? Чи варто діяти без рекомендацій?

Наприклад...

Чи комфортно нам аутсорсинг рішень до систем чорного ящика, які не мають прозорості та пояснюваності, що робить неможливим для людей зрозуміти міркування за рішеннями?
Чи варто турбуватися про розвиток автономної зброї, що працює на AI, яка приймає рішення про застосування смертоносної сили без людського втручання?
Чи варто турбуватися про потенціал зловмисних акторів для використання штучного інтелекту в згубних цілях, таких як складні пропагандистські кампанії?
Чи наші поточні закони, регламенти та політичні системи обладнані, щоб впоратися з швидким припливом нових питань з урахуванням штучного інтелекту, з якими суспільство буде боротися в найближчому майбутньому?
Оскільки AI стає більш розвиненим, його може стати важко зрозуміти, що може призвести до небажаних наслідків. Системи AI можуть поводитися способами, які непередбачені і важко контролювати. Проблема вирівнювання AI є суспільною проблемою, яка вимагає співпраці між дослідниками, інженерами, підприємцями, розробниками політики та громадськістю. Це також вимагатиме міжнародного співробітництва між урядами та приватним сектором. Це не тільки технічний виклик, але й філософський та етичний.

Відкритий лист, згаданий вище, продовжує рекомендувати:

«Дослідження та розробки в галузі штучного інтелекту повинні бути орієнтовані на те, щоб сьогоднішні потужні, найсучасніші системи були більш точними, безпечними, інтерпретабельними, прозорими, надійними, надійними та лояльними».

Це, безумовно, гідна мета, і її можна досягти, роблячи AI відкритим. Те, чого нам бракує, це рамки. Суспільство потребує набору процедур і протоколів, щоб зробити рекомендацію з The Future of Life Institute дієвим.

Разом ми повинні розглянути і обговорити плюси і мінуси багатьох ідей, включаючи, але не обмежуючись:

Обов'язкове розкриття деталей моделі, включаючи набори даних про навчання, методології оцінювання та відомі упередження
Розробка рамки, яка встановлює вимоги до моніторингу моделей та аудиту для передових систем штучного інтелекту
Впровадження законів, що накладають відповідальність за шкоду, заподіяну AI
Створення регуляторного органу для нагляду та відстеження високопродуктивних систем штучного інтелекту
Першим кроком до досягнення продуктивної рамки для безпечного розвитку штучного інтелекту є відкритий діалог між багатьма зацікавленими сторонами, який включає всіх. Ми повинні піднятися над гіперполітизованим дискурсом, який наші нечесні і зламані ЗМІ часто примушують нас. Ця тема занадто важлива, а наслідки занадто глибокі. Приєднуйтесь до мене, щоб закликати до розумної та шанобливої розмови про штучний інтелект, яка закликає до вступу та відкритого обговорення з різноманітного набору голосів, щоб допомогти забезпечити шлях вперед, який відповідає нашим колективним інтересам.