В отворено писмо Илон Мъск и група експерти по изкуствен интелект и ръководители от индустрията призовават за шестмесечна пауза в разработването на системи, които са по-мощни от наскоро стартиралата GPT-4 на OpenAI. Те се позовават на потенциални рискове за обществото, предава Reuters.
По-рано този месец OpenAI, подкрепяна от Microsoft, представи четвъртата итерация на своята програма за изкуствен интелект GPT (Generative Pre-trained Transformer). Тя впечатли потребителите, въвличайки ги в разговор, подобен на човешкия, композираше песни и обобщаваше дълги документи.
„Мощните системи за изкуствен интелект трябва да се разработват само след като сме сигурни, че ефектът от тях ще бъде положителен, а рисковете – управляеми.“
Това се казва в писмото, публикувано от Института за бъдещето на живота.
Според регистъра за прозрачност на Европейския съюз нестопанската организация се финансира основно от фондацията на Мъск, както и от базираната в Лондон група Founders Pledge и Silicon Valley Community Foundation.
„Изкуственият интелект ме стресира“, каза Мъск по-рано този месец.
Той е един от съоснователите на водещата в бранша OpenAI. Неговият автомобилен производител Tesla (TSLA.O) използва ИИ за системата за автопилот.
Мъск, който изрази разочарованието си от регулаторните органи, критикуващи усилията за регулиране на системата за автопилот, поиска регулаторен орган, който да гарантира, че разработването на изкуствен интелект служи на обществения интерес.
„Дълбоко лицемерно е Илон Мъск да подпише договора, като се има предвид колко упорито Tesla се бори срещу отговорността за дефектния ИИ в самоуправляващите се автомобили.“
Това казва Джеймс Гримелман, професор по цифрово и информационно право в университета Корнел.
„Паузата е добра идея, но писмото е неясно и не разглежда сериозно регулаторните проблеми.“
Миналия месец Tesla трябваше да изтегли повече от 362 000 американски автомобила, за да актуализира софтуера, след като американските регулаторни органи заявиха, че системата за подпомагане на водача може да причини катастрофи. Това накара Мъск да напише в Twitter, че думата „изтегляне“ за актуализация на софтуера е „анахронична и просто погрешна!“
Превъзхожда, надхитрява, изпреварва
От OpenAI не отговориха веднага на искането за коментар на отвореното писмо, в което се призовава за спиране на разработването на усъвършенствани ИИ, докато не бъдат разработени общи протоколи за безопасност от независими експерти, и се призовава разработчиците да работят с политиците по въпросите на управлението.
„Трябва ли да позволим на машините да заливат информационните ни канали с пропаганда и неистини? … Трябва ли да развиваме нечовешки умове, които в крайна сметка могат да ни превъзхождат по брой, да ни надхитрят, да ни остареят и да ни заменят?“, се пита в писмото, като се казва, че „такива решения не трябва да се делегират на неизбрани технологични лидери“.
Писмото е подписано от повече от 1000 души, включително Мъск.
Сам Алтман, главен изпълнителен директор на OpenAI, не е сред подписалите писмото. Сундар Пичай и Сатя Надела, главни изпълнителни директори на Alphabet и Microsoft, също не бяха сред подписалите.
Сред подписалите писмото са главният изпълнителен директор на Stability AI Емад Мостаке, изследователи от DeepMind, собственост на Alphabet, както и тежките фигури в областта на ИИ Йошуа Бенгио, често наричан един от „кръстниците на ИИ“, и Стюарт Ръсел, пионер в изследванията в тази област.
Опасенията идват в момент, когато ChatGPT привлича вниманието на американските законодатели с въпроси за въздействието му върху националната сигурност и образованието. В понеделник полицейските сили на ЕС Европол предупредиха за потенциалната злоупотреба със системата при опити за фишинг, дезинформация и киберпрестъпления.
Междувременно правителството на Обединеното кралство представи предложения за „адаптивна“ регулаторна рамка около ИИ.
Превод и редакция: TRENDY NEWS
