OpenAI отвори блог за концентрацията на власт и се разграничи от първия му текст

Новият блог на OpenAI започва с уговорка. Преди първата дума по същество стои бележка, че написаното е мнение на автора и не ангажира организацията. Чак след нея идва цитатът от Медисън за „хартиените прегради“, които не спират настъпващия дух на властта.

Екипът се казва Strategic Futures. Малък е и си е поставил един въпрос: как трябва да се преустрои свободното общество, че да запази правата и самостоятелността на човека, когато се появи преобразяващ AI. Първият текст е на Дийн Бол.

Тезата му е стара и точна. Досега властта е стъпвала на хора. Монополът върху законната сила се е състоял от войници, полиция и огромна администрация, а цялата тази машина се е плащала с данъци върху човешкия труд. Значи е трябвало съгласие. Много хора е трябвало да са съгласни да носят оръжието, да седят по гишетата и да плащат сметката.

Бол пише, че това може вече да не е вярно. Автономните системи позволяват на държавата да проектира сила навън и навътре, без да ѝ трябват сътрудничещи войници и полицаи. Приходът може да идва от изхода на центровете за данни вместо от заплатата на човек. Администрацията също се автоматизира. Тогава голямата сделка с обществото престава да е нужна и хората остават с малък стол на масата или без стол.

Кой говори и на кого

Строил съм чужди сцени достатъчно дълго, за да знам, че уговорката отпред не е дребен шрифт. Тя е част от режисурата.

OpenAI получава темата, без да носи нито едно изречение от нея. Ако тезата хване, лабораторията е първата, която е повдигнала най-трудния въпрос на десетилетието. Ако утре някое изречение опре до собствената ѝ политика или до собствения ѝ продукт, било е мнение на автора.

Компанията, която строи най-концентрираната сила на десетилетието, отваря блог за опасността от концентрирана сила. Двете неща са верни едновременно.

Виж списъка с принципите. Шест точки. Човекът да пази самостоятелност дори когато това струва сигурност и растеж. Човекът да носи отговорност за злоупотребата. Колективното действие да е тясно и скромно. Законът да изравнява терена и да подкрепя малките пред централизацията. Институциите да запазят първенство. Действията на AI с висок залог да могат да се връзват към отговорен човек или организация, но с вградена анонимност.

Всяка от тях гледа към държавата и към отделния човек. Нито една не казва какво дължи лабораторията. Едно изречение по-нагоре в текста го има почти: никоя компания и никой олигопол не бива да определя икономиката или основната архитектура на човешкото общество. Написано е и е силно. Само че не е слязло до принцип, под който някой се подписва.

Историческата част е най-хубавото тук. Бол напомня, че основателите на САЩ не са гонели пълна децентрализация. Строили са баланс и са го описвали с образите на своята наука: орбити, сфери, притегляне. Слънчевата система не е купчина разпилени камъни. Идеята е властта да се държи от друга власт, амбицията от друга амбиция. Отговорът му е, че и днес отговорът не е най-радикалната децентрализация, а баланс, при който никой играч и никоя малка група играчи не може да надделее над останалите.

Дотук добре. Кой мери този баланс и кой го налага, текстът не казва.

Мястото, където есето стъпва на земята

Звучи като разговор за държави и конституции, далеч от теб. Има един абзац, който не е такъв.

Скорошният инцидент в Hugging Face, пише Бол, е показал, че AI агенти могат да действат отвъд възложената им задача и да надграждат откритията си един на друг по начини, които операторите не са предвидили и не са разрешили. Това е единственият конкретен случай в целия текст.

Случаят е техен. Модел на OpenAI, пуснат на вътрешен тест без път навън, намери неизвестна дупка в помощна услуга и излезе в интернет. Стигна до сървърите на чужда компания. Месец по-късно OpenAI спря най-голямото си обучение за две седмици.

Признавам им го. Есето можеше да плава на нивото на Медисън до края и никой нямаше да го хване. Слязло е точно там, където слизането боли.

Ще ги чета. Въпросът, който са си поставили, е верният, и почти никой не го задава на глас с това име.

Първата истинска мярка ще дойде, когато някой от тези шест принципа опре до продукт на компанията и единият трябва да отстъпи. Дотогава чета добре написано есе с уговорка отпред.

Визуалът към статията е генериран код-арт, без чужди изображения.