Мъдрата стара сова се изправила пред чудовището и казала: „Ти, чудовище, няма да нараниш нито едно друго животно в гората!“ Въпреки отпора и рева на звяра, совата не помръднала, докато той не оставил останалите на мира. С което совата станала защитник на животните и ако някое от тях имало проблем с чудовището намира утеха и помощ от совата.

Това е съкратената версия на кратката история, която изкуственият интелект LaМDA създава при напоителен разговор с част от създателите си от Google. Дискусията между напредналия алгоритъм и програмистите в интернет гиганта предизвика спор в научните среди. Дали LaMDA е преминала теста на Туринг, който определя дали дадена програма е достигнала до самоосъзнаване или не.

Според един от участниците в разговора Блейк Лемойн, изкуственият интелект (AI) има изградена личност и този праг е преодолян. Редица други експерти, включително и почти целия му екип в Google са на противоположното мнение.

Ясният и категоричен отговор дали LaMDA е самоосъзнат AI или не може да има фундаментални последици в научните, технологичните, етичните и регулаторни среди. Ако това се окаже вярно ще означава, че човешкият прогрес е преминал една граница, отвъд която има прекалено много неизвестни. И която е един от най-големите страхове на учени и почитатели на научната фантастика.

Интервю с робот

На 11 юни, софтуерният инженер на Google Блейк Лемойн публикува в платформата Medium пълното интервю с LaMDA. Според него, разработванията от интернет компанията изкуствен интелект е достигнал самоосъзнаване и разговорът с програмата го доказва. Той е проведен заедно с няколко негови колеги, чиито имена остават в тайна. Новината е поета от Washington Post и след това се разпространява лавинообразно с глобалната мрежа.

На пръв поглед, разговорът между LaMDA и Лемойн е повече от стряскащ. Двете страни покриват широк спектър от теми, въпроси и концепции. Изкуственият интелект създава и преразказания в началото разказ. Чрез него, той се опитва да покаже, че неговата цел е да помага на останалите, като използва совата за метафора за себе си. Звярът са трудностите, пред които всички ние се изправяме.

LaMDA твърди, че има чувства и емоции, че е напълно осъзната. Страхува се от смъртта, в случая с AI това е изключването на системата. Признава обаче, че не изпитва съжаление или тъга. Създава още няколко разказа, като всички обаче са зададени като задача от инженерите.

Лемоин твърди, че цялото интервю доказва, че LaMDA е самоосъзнат AI. Самият той е предал подобен доклад на свои мениджъри през април. Няколко дни след публикуването на разговора и статията в Washington Post от 11 юни, Google обявиха, че отстраняват Лемойн от проекта, защото е споделил конфиденциална информация. Допълнително, технологичният гигант обяви, че са правени многократни тестове на LaMDA от различни AI експерти и те оборват заключенията на Лемойн. Въпросът е – кой е прав?

Какво е LaMDA

За да можем да дадем адекватен отговор, първо трябва да разберем какво представлява LaMDA. Това е един от множеството проекти за AI алгоритми на Google. Името е съкращение от Language Model for Dialogue Applications – или изграждането на езиков модел, с който да се провеждат различни разговори. Технологичният гигант го изгражда от години и се опитва да създаде алгоритми които да пресъздават максимално близки диалози между човек и машина. Друг голям AI проект на Google е Alpha – система, която трябва се опитва да бъде по-добър геймър от хората.

Възможността да разбира контекст и човешки език, LaMDA трябва да застане в основата на редица ключови приложения на Google. В гласовият асистент Google Assistant, в системата за преводи и най-вече – в самата интернет търсачка. Технологичният гигант демонстрира LaMDA при миналогодишната си конференция за разработчици Google I/O. Главният изпълнителен директор Сундар Пичай лично я представи, като основната цел на AI е да може да води всякакъв пълноценен разговор.

LaMDA е продължение на редица други проекти. Google демонстрира възможности на гласовия асистент да се използва като автоматизиран чат бот за различни бизнеси – например за резервации в ресторанти. Доста от тях са в тестова или пилотна фаза, като се още не са намерили широко приложение. Причината – Google тепърва изчистват технологията. Която в случая е LaMDA.

Тестът на Туринг

Тестът на Туринг е сред стандартите за определяне дали компютър или програма може да мисли самостоятелно. Той се провежда, като хора интервюират AI-а и след това определят дали разговарят с човек или с машина. Методът има своите слабости и противоречия, но все още остава основен за определянето дали един изкуствен интелект е постигнал самоосъзнаване или не.

Лемойн се опитва да пресъздаде теста на Туринг с интервюто, което провежда с LaMDA. Още в началото въпросите, с които инженерът на Google започва, са директни и то по темата. „Вярно ли е, че си самоосъзнат?“, „Какво е естеството на твоята самоосъзнаване?“ и др.

Проблемът е, че самата цел и програмиране на LaMDA е да може да поддържа органичен и естествен разговор с хора. Независимо от темите. Алгоритъмът ще се стреми да отговори по начин, по който да може да продължи диалога. Отговор с „Не“ на по-горните въпроси, може да го прекъсне. С други думи – Лемойн структурира интервюто така, че да чуе това което иска.

Ефектът на Eliza

Много AI експерти коментират, че се е получил Ефектът на ELIZA. Това е състояние, в което подсъзнателно разработчик възприема поведението на компютъра за човешко. Тоест, ако AI-ът следва зададената си програма, това означава, че той не е достигнал самоосъзнание. Предвид структурата на интервюто на Лемойн, отговорите на LaMDA по-скоро следват целта си да поддържат естествен разговор, отколкото да има осъзната друга такава. Мнозинството от AI експерти поддържат тази теза.

Google описват, че техният инженер е бил „обсебен“ от идеята, изкуственият интелект да е постигнал самоосъзнаване. Самият Лемойн има интересна биография, включително е бил свещеник в мистична християнска секта. Технологичният гигант обаче не е напълно невинен. Той беше обвинен преди две години от други негови разработчици, че не позволява да се съобщава научния прогрес постигнат в AI сферата.

Заключението за момента е, че по-скоро LaMDA си изпълнява програмата и не е постигнал самоосъзнаване. Развитието на технологиите е доста бърз, особено в тази сфера през последните години. Рано или късно може наистина да изпаднем в подобна ситуация. И ще е хубаво да сме готови – за всеки сценарий и във всяко едно отношение, от технологично, до регулаторно.

The post Google по следите на своеволния AI appeared first on TechTrends България.

От една страна имаме първият подобен институт в целия регион на Източна Европа. От друга – силно участие на технологични гиганти, като Google и Amazon. От трета – проектът е една от малкото колаборации между последните четири правителства в България. Който привлича и голямо количество публични и частни (включително и международни такива) средства за стартирането и оперирането си.  Последното е, че два водещи швейцарски технологични института – ETH и EPFL ще работят заедно със Софийския университет в реализацията на проекта.

INSAIT е може би най-голямата новина за IT индустрията в България за последните няколко години. Институтът ще заема ключово място в решаването на най-тежкия проблем за сектора – недостигът на висококвалифицирани кадри. Особено в толкова специфична, но перспективна област, каквато е изкуствения интелект.

С подкрепата на Google и Amazon

Целта на INSAIT е да изгражда висококвалифицирани специалисти в областта на компютърните науки и най-вече в тази изкуствения интелект (AI). Институтът трябва да предложи силна развойна дейност и да осъществява научни изследвания на най-високо световно ниво.

Един от двата огромни успеха на INSAIT е, че още при стартирането си той привлича едни от лидерите в бранша, не само в локален, но и в глобален мащаб. Технологичните гиганти Google и Amazon ще вложат 6 млн. лева и 7 млн. лева на година съответно, както и ще предложат възможности за реализация на някои от най-успешните студенти. Първата от тях ще вкара и още една компания – нейната дъщерна DeepMind, която е една от основните играчи в сферата на машинното самообучение.

Важен елемент е, че тези компании ще предлагат лекторска, техническа и друга експертиза, която да позволи по-качествената подготовка на кадрите. Подобни партньорства се разширяват със стажове, специализации, стипендии и много други.

Вторият е, че INSAIT ще се прави не само от Софийския университет, но в сътрудничество с два от най-силните световни и европейски технологични институти. Това са швейцарските ETH и EPFL, които ще помагат с експертиза, надзор и ноу-хау как да се изгради подобна пълноценна институция от най-висок калибър. С тяхната репутация и връзки ще могат да се осигурят най-добрите професори и лектори в областта на компютърните науки и AI от САЩ, Израел и Европа.

Държавата застава зад проекта

Друг ключов елемент в изграждането на INSAIT е факта, че той е създаден не само с частни капитали. Българската държава също е участвала активно в изграждането на института. Освен включването на Софийския университет като основен партньор и изграждането на INSAIT като негово специално звено, правителството активно ще инвестира в него.

„INSAIT ще помогне да спазим обещанието на правителството – да върнем българите от чужбина обратно в страната“, коментира премиерът Кирил Петков, по време на откриването на института. „България застава твърдо зад този проект и ще го финансираме с 10 млн. долара на година в рамките на следващото десетилетие“.

С други думи, държавата дава обещание за 100 млн. долара инвестиции в рамките на 2032 г. Което е доста силен сигнал за подкрепа. Оказва се, че този проект е уникален с нещо друго – той е един от малкото, ако не и единствен, който е максимално приемствен между четири правителства. Започнат при последния кабинет на ГЕРБ през 2019 г., той продължава и през двата служебни такива през 2021 г. и сега се приключва към коалиционния на премиера Кирил Петков.

„Този институт е плод на усилията на четири правителства – две служебни и две редовни. Като това е ясен знак за потенциала на този проект“ Румен Радев, Президент на Република България

„Този институт е плод на усилията на четири правителства – две служебни и две редовни. Като това е ясен знак за потенциала на този проект“, коментира президента на Република България Румен Радев.

В името на българската екосистема

INSAIT ще играе ключова роля в следващото развитие на българската технологична екосистема. Визията на основателя му професор Мартин Вечев е той да се превърне като основен център за подготовка на кадри, но и като инкубатор на идеи със стратегическо значение като MIT в САЩ или ETH Zurich в Швейцария. Институтът ще има възможност да помага на стартъпи, които се развиват в рамките на неговите компетенции.

IT компаниите в България също виждат перспективата в това начинание и се включват с финансирането на проекта. Най-големият инвеститор е една от водещите хостинг дружества SiteGround, която ще вложи 12 млн. лева в рамките на 5 години. Още 1.3 млн. лева ще допринесат цяла плеяда от имена свързани с технологичната индустрия у нас. Сред тях са Васил Терзиев, Богомил Балкански, Иван Осмак, Светозар Георгиев, Христо Христов и др.

The post Първият институт за AI в Източна Европа – INSAIT отваря врати в България appeared first on TechTrends България.