Сп. „Етически изследвания“, бр. 4, кн. 2/2019

КОЙ ВЛАДЕЕ „БЪГА“?

ЕМИЛИЯ В. МАРИНОВА

Институт за изследване на обществата и знанието, БАН

ema_marinova@abv.bg

WHO OWNS THE “BUG”?

EMILIA V. MARINOVA

Institute for the study of Societies and Knowledge, BAS

Abstract

The article shows that both natural and artificial intelligence can overcome the defects of the perceived objects and the perceptual organs, but can also cause them – with or without the participation of consciousness. This possibility refers to the morality of the subjects having the ability to manipulate the process of perception.

Keywords: morality, pattern recognition, artificial intelligence, gestalt

Заобикалянето на дефектите в изображението е една от задачите, които човешкият мозък решава в процеса на възприемане на образите. Гещалтпсихологията търси и намира научно обосновани обяснения чрез структуриране и организиране на перцептивната среда (Koffka, 1935; Köhler, 1929 Кёлер, 1930; Коффка, 1975; Осгуд, 1975). Основната идея на тази обяснителна парадигма може да се илюстрира с нощното небе, в което ние съзираме съзвездия, с Луната, която дори за децата има усмивка, очи и лице, с облаците, които ни напомнят познати обекти.

Очевидно е, че тези образи, които ние „виждаме“ са свързани с логиката на перцептивния процес, на когнитивността, мисловността, или най-общо казано – с интелектуалните процеси, които протичат в човешкия мозък при процеса на възприятие.

Значението на групирането в процеса на възприятие е видима не само при преодоляването на дефектите във възприеманите образи, но и при наличието на недостатъци във възприемащите органи. Първата група от проблеми се анализират и изучават от психологията на възприятието, а втората дава храна на невропсихологията, психофизиологията и др.

Логиката на настоящето изложение води към това, че както възприеманите образи, така и възприемащите органи не са перфектни – едните имат грапавини, отклонения, дефекти и др., а другите са подвластни на генетиката, обстоятелствата, процеса на стареене и др.

Така или иначе перцептивният процес има свои трудности, рискове и динамика, които в някои случаи успешно се преодоляват. Действат компенсационните механизми, с които нашето възприятие и нашите органи са снабдени, благодарение на по-широкия интелектуален капацитет на нашия мозък.

Така дефектите, които перцептивната среда има, поради своята естествена природа, се оказват във владението на човешкия мозък и на нашия интелект. Грешките на възприятието, които са свързани с инструментите за перцепция, също се компенсират благодарение на когнитивните процеси. При тази ситуация бъговете, които неизменно възникват в нашата перцепция, се владеят (коригират, преодоляват, отстраняват и пр.) от нас, от нашия интелект и нашия мозък. Така ние със собствени сили можем да превъзмогвам дефектите на възприеманите обекти, а и недостатъците на своите органи – инструменти за перцепция.

Но ето, че се пренасяме в друга ситуация, под купола на цирка. Светлини, фанфари, илюминации…и задължителният и любим на децата Маг. Изведнъж се оказва, че ние започваме да виждаме неща, които не присъстват и да не виждаме други, които обективно присъстват на сцената. В част от случаите причината е, че някой успява да елиминира нашият интелектуален контрол върху дефектите на възприеманата среда, да експлоатира бъговете в нашите органи и така да манипулира нашата перцепция според своите цели и задачи (забавление, комерсиалност и др.). Това е случаят, когато не нашият собствен, а чужд за нашето съзнание интелект контролира и владее бъговете на перцептивния процес. Така нашето съзнание се оказва под чужд, макар и естествен контрол.

Колкото и да е силен механизмът на адаптацията, той не винаги може да компенсира съществуващите дефекти (или бъгове) в перцептивния процес, за които вече стана дума. Има случаи, когато компенсаторното въздействие на когнитивността е безсилно. Така например, ако възприеманият образ е писмен документ, то дефектите в словесните образи се компенсират с помощта на мисленето, спомените, логиката, паметта, анализа на смисловия контекст и др. В същото време, ако трябва да се компенсират дефектите при възприемането на една поредица от произволни числа, то компенсационните механизми на нашия мозък могат да се окажат безсилни.

Ситуацията далеч не е безизходна в условията на новите информационни технологии. Не е далече времето, когато бъгове от такъв, а и от друг характер ще се компенсират от устройства, които стават все по-успешни и все по-миниатюрни. Нанотехнологиите са на ход и те вдъхват оптимизъм за следващите поколения.

Контролът върху перцептивните бъгове могат да се преодоляват с помощта на изкуствения интелект. Но кой има власт над бъговете в този случай?

Разпознаването на образи е една от насоките, в които се работи изключително усилено, още преди възникването на информатиката. Задачите, които се решават са тежки и разнообразни и те като правило се атакуват с големи интердисциплинарни екипи. Някои от тях са свързани с овладяване на дефектите на самите образи. Така например когато се дигитализират ръкописи и стари книги възникват проблеми, свързани с текстурата на повърхностите, със спецификата на образите, с изчистването на нежеланите замърсявания на текста, бъгове, свързани с огъването на изписаната повърхност, и много други подобни. Още по-сложно технически е разпознаването на текста в историческите документи. Компютърната обработка на древни нотации е свързано с научните изследвания в историята, музикологията, теологията и др. и води до различни нестандартни алгоритми на бинаризиране на изображения, сегментиране и разпознаване на символи (Laskov, 2012; 2011;. Dimov, Laskov. 2009). Друг пример, който се среща в изследванията е свързан с разпознаването на ръкописни цифри в астрономическите дневници, съдържащи метаданни от астрономически фотографски табели. Този проблем възниква във връзка с необходимостта от създаване на дигитална база данни от астрономически табели, където извличането на метаданни от бордовите дневници сериозно затруднява процеса на дигитализация (Laskov, Tsvetkov, 2013; Laskov, 2012-a). Съвременната образна диагностика в медицината също разчита на изкуствения интелект и на процеса на разпознаване на образи. Тя е навлязла в съвременната медицинска практика и в съвременната диагностика. Скенери, ехографски изследвания, компютърната томография, ядрено-магнитен резонанс и др. работят на този принцип и стават все по-достъпни като инструмент при диагностицирането на редица болестни състояния.

Интересът към разработването на инструменти за разпознаване на образи е огромен, конкуренцията е напрегната, а използването не е еднопосочно, но е стратегически значимо.

Зад разработването на този мощен инструмент стои огромен труд с участието на бързо развиваща се професионална общност. Създателят на компютърния софтуер е съзидател на интелектуален инструмент (Миков, 2018). По отношение на разглеждания проблем е важно, че той може да преодолява, но може и да вгради в своя продукт бъгове, които изцяло да променят (изчистят, но и деформират) разпознаваните образи. Тези промени могат да бъдат разгледани като внедрени бъгове, които могат да бъдат ръководени от различни цели и задачи. Те могат да улеснят разпознаването на образите, а може и да го компрометират по отношение на обективната му достоверност.

Очевидно програмистът, колкото и да е вещ и успешен в своята професия, е проводник на интереси (научни, икономически, политически, комерсиални, социални и др.). Той също така не притежава продукта на своя интелектуален труд, който рано или късно се използва с различни цели и в различни социални дейности.

И ако се върнем към чипа, който трябва да преодолее бъговете на нашето остаряващо око, отново питам кой владее този чип?

Дали след намесата луната, вместо мило усмихната, няма да се окаже застрашително озъбена?

Дали светът край нас няма да се окаже опасно място? Съседът – зъл, чужденецът – терорист, различният – звяр, страдащият – лицемер, инвалидът – урод?

Внасянето на бъг в системата (в случая – перцептивната) е част от когнитивната интрига. Обединяването на перцептивните стимули по принципа на близостта, времето, последователността и пр. е част от когнитивната игра на нашия мозък. От когнитивността зависи дали и как ще обединим звездите в съзвездия. Това е отново бъг, който нашето мислене внася в системата. Внасянето на смисли е нещо, което отново и отново се усъвършенства в процеса на нашата адаптация и в борбата за оцеляване.

Древните египтяни са вярвали, че има връзка между изгряването на Сириус и прииждането на река Нил. Две събития от различен характер, които се обединяват от човешкото мислене като причина и следствие на основание на тяхната близост и последователност. Това е гещалт на принципа на последователността, казват гещалтпсихолозите. Този гещалт се е запазил, защото дава изключително полезна информация кога да се очаква разлива на огромната река. С времето древният човек е усвоил, че яркият цвят на някои животни е признак за опасност. Така самата еволюция изисква развитието на асоциативното мислене, а асоциацията внася смисли, и следователно отваря широко вратите за когнитивен бъг. Това се вижда също на примера на астрологията, която експлоатира съвпадението на събития от различно естество (движението на звездите и съдбата на човека и човешките общности) и внася когнитивни смисли в това съвпадение.

Фонът и фигурата са обратими, казват гещалтпсихолозите. Тази обратимост е свързана с внасянето на смисли. Така например звездите могат да се възприемат като светещи тела, далеч в пространството, но може небето са се възприеме като обект (черно платно с дупки), а звездите – като фон от светлина, която се процежда през процепите на платното. Добре е известна фигурата на Е. Боринг, известна като „Нееднозначната тъща“. На фигурата, според организацията на перцептивния процес, могат да се видят стара и зла префърцунена жена или млада и елегантна дама, излъчваща доброта (Грегори, 1972: 43).

Очевидно, че собственото ни съзнание е в състояние да внася смисли, като преорганизира перцептивния процес. Самото групиране в процеса на възприятие поражда смисли. Нашето съзнание, в случая, е притежател на смисли, които имат морален прочит (зла вещица, мила и добра жена) и може да бъде разгледано като притежател на бъга.

Изследването на безсъзнателните процеси показва, че в условията на хипноза е възможно да се внесат смисли, и следователно бъг в системата на перцепцията. В този случай автономията е елиминирана, а бъгът е във владението на естествен, но чужд контрол.

Щом това може да се случи в условията на хипноза и следователно, на естествен контрол от страна на чужд интелект, защо да се изключи вероятността за злонамерено въздействие с помощта на изкуствен интелект? Общуването в мрежата като средство за манипулация на мисленето, емоциите и избора на личността демонстрира нови провокации. Тази тенденция, макар и различна, е изключително показателна. Защото въздействието, макар и от дистанция, владее и самата дистанция.

По всяка вероятност устройството вече лежи в нечий джоб…

ЛИТЕРАТУРА

Dimov D., L. Laskov. (2009). Invariant Fourier Descriptors Representation of Medieval Byzantine Neume Notation. In: Fierrez, J.; Ortega-Garcia, J., A.Esposito, A. Drygajlo, M. Faundez-Zanuy. (Eds.) Proceedings of the Joint COST 2101 & 2102 International Conference on Biometric ID Management and Multimodal Communication (BioID_MultiComm’09). Sep. 16-18, Madrid, Spain, Springer Verlag, Lecture Notes in Computer Science 5707,192 – 199.

Koffka K. (1935). Principles of gestalt psychology, N. Y.

Köhler W. (1929). Gestalt psychology. N. Y.

Laskov, L., M. Tsvetkov. (2013). Data Extraction form Carte du Ciel Tripple Images. In: 7, Number 4, 317 – 332.

Laskov, L. (2012). Application of Wavelet Decomposition to Document Line Segmentation. In: Serdica J. Computing 6, Number 2, 149 – 162.

Laskov, L. (2012-a). Adaptive Document ImaАge Binarization with Application in Processing Astronomical Logbooks. In: Serdica J. Computing 6, Number 1, 111 – 120.

Laskov, L. (2011). Processing of Byzantine Neume Notation in Ancient Historical Manuscripts. In: Serdica J. Computing 5, Number 2, 183 – 198.

Грегори, Р. Л. (1972). Разумный глаз. М.. Издательство „Мир“.

Кёлер В. (1930). Исследование интеллекта человекоподобных обезьян. пер. с англ., Москва.

Коффка, К. (1975). Восприятие:введение в гештальттеорию. В: Хрестоматия по ощущемию и восприятию. Гиппенрейнер, Ю.Б., М.Б. Михалевский (ред.). М., Издательство Московского университета, 96 – 114.

Миков, И. (2018). Относно една апофенична тривиализация на етиката. В: Етически изследвания, бр. 3, кн. 2, 348 – 365.

Осгуд, Ч. (1975). Точка зрения гештальттеории. В: Хрестоматия по ощущению и восприятию. Гиппенрейнер, Ю.Б., М.Б. Михалевский (ред.). М., Издательство Московского университета, 114 – 127.