Сп. „Етически изследвания“, бр. 7, кн. 2/2022

„ИНТЕРНЕТ НА НРАВИТЕ“: НЕЩА, МРЕЖИ И УБЕЖДЕНИЯ

СТОЯН СТАВРУ

Институт по философия и социология, Българска академия на науките

stoyan.stavru@gmail.com

„INTERNET OF MORALS“: THINGS, NETWORKS AND BELIEFS

STOYAN STAVRU

Institute of Philosophy and Sociology, Bulgarian Academy of Sciences

Abstract

The article examines the ethical challenges posed by the world of networks of smart and interacting things („internet of things“), which is above all a world with less human involvement. More and more things will increasingly materialize certain moral views, constraining or incentivizing certain human actions and interactions. In these morally curated spaces, ethical rules are completely externalized, and the thesis of the objectivity of morality has its second chance, thanks to the technological possibility of turning moral laws into physical laws. Such trends will require ethics to recognize as its important object of study, in addition to the behaviour of people, but also the ethical design of things and the moral architecture of spaces. Thus, a new concept was born: the concept of „internet of morals“.

Keywords: internet of things, smart things, sensors, actuators, embedded rules, values, ownership.

1. Интернет на нещата

Интернет на нещата[1] се определя като мрежа (екосистема) от взаимно свързани физически устройства, сгради и съоръжения, събиращи и обменящи си в реално време данни за наблюдавани, а в някои случаи и контролирани от тях процеси.[2] Такава мрежа се създава например между вещите в „умните“ домове, „умните“ сгради и „умните“ музеи; между настилката и пътните знаци при „умните“ пътища; между различните потребяващи електроенергия устройства, свързани в „умни“ електрически мрежи, които осигуряват оптимално разпределение на електрическата енергия в рамките на т.нар. „балансиращи групи“, и пр.[3] В тези случаи връзката между вещите е не само физическа (физически мрежи), но и информационна (информационни мрежи), като тя прави възможни допълнителни форми на взаимодействие, които се включват в предназначението и полезността на вещите.

Упражняването на собствеността върху вещите, организирани въз основа на взаимодействието „интернет на нещата“, не е ползване на вещта като пасивен къс материя.[4] Вещта не просто търпи, но и произвежда желан от нейния притежател ефект. От физическо разположение на вещта, която е достъпна за волята на своя притежател, собствеността се превръща в услуга, която се осигурява проактивно от вещта. Вещта не просто реагира на нашето въздействие (вещ-продукт), но и самостоятелно постига своето предназначение (вещ-услуга), макар и все още да се смята за неприемливо твърдението, че предназначението на вещта се е превърнало в нейна автономна цел. Така например в една умна електрическа мрежа всеки уред ще следи както за собственото си потребление, така и за това на останалите вещи, въз основа на което ще избира да се включи и да използва електроенергия в този момент, в който има най-малко натоварване на електрическата мрежа. Цялата система ще наблюдава количеството налична и количеството ползвана електроенергия в рамките на балансиращата група от потребители, за да осигури максимално ефективно усвояване на произведената електроенергия. Част от крайният ефект ще бъде и по-евтина електроенергия, т.е. спестяване от сметката за ток.

Вещите, които си споделят и разменят информация, пакетирана въз основа на стандартизирани интернет протоколи, могат да бъдат натоварени с две основни функции: а) събиране, подреждане и съхраняване на информацията: нека наречем тези вещи „сензори“, и б) обработване на информацията и избор на определен начин за взаимодействие с останалите вещи: нека наречем тези вещи „актуатори“.

Сензорите са свързани с натрупването на един от най-важните ресурси в съвременния свят, т.е. ключовата дума при тях е информацията. От една страна, събираната информация може да се отнася до определени природни явления, които не са несвързани с конкретно човешко поведение. Такива са например управляваните като единна мрежа телескопи, използвани за наблюдение на звездното небе. Тяхното предназначение е да събират информация, която подлежи на анализ, осъществен както пряко от човек, така и от различни алгоритми и форми на изкуствен интелект. От друга страна, събираната информация може да има за свой обект човешко поведение: информация относно местоположението, скоростта на движение, честотата на определени действия и бездействия, осъществяването контакти с други хора и пр. и пр., но и човешкото състояние: информация относно физическите параметри (височина, тегло, цвят на кожата и пр.) и жизнените показатели (температура, будно състояние или сън, честота на дишане, кръвно налягане и пр.) на човешкото тяло. Тази информация може да се отнася както до конкретен индивид (лични данни), така и до определени групи от хора (статистически данни), като (особено в първия случай) събирането й е подчинено на специални юридически правила, свързани с т.нар. защита на личните данни.[5]

Актуаторите са свързани с осъществяването на определени взаимни въздействия между вещите с цел постигане на резултат, който по правило се нуждае от намесата на човека: т.е. ключовата дума при тях е действие/бездействие. От една страна, актуаторите биха могли да инициират и провеждат определена промяна в средата, в която се намират. Така например, те могат да включват осветлението в определен час на денонощието или в момента, в който осветеността спадне под определена стойност. По същия начин една „умна“ поливна система може да включва подаването на вода към растенията при спадане на влажността на почвата под определена предварително заложена стойност. В тези случай вещта продуцира промяна, която по правило се свързва с някакво човешко действие. От друга страна, актуаторите могат да са натоварени с функции, които да ограничават определено възможно, но нежелано човешко действие. В този случай те имат за цел да предотвратят определено поведение, което се смята за нежелано. Така например, един автомобил може да откаже да включи двигателя си и да се придвижва в пространството, ако установи, че намиращото се в него лице е употребило алкохол или че е издирван международен престъпник. В този случай вещта възпрепятства промяна, която без нейната намеса би настъпила било то в резултат на определено човешко поведение (както е в дадените по-горе в настоящия абзац примери), или вследствие на други природни процеси (например умна система от прегради и диги, които предотвратяват възможно наводнение на определени площи).

2. Етика на наблюдаващите вещи

За разлика от актуаторите, които се нуждаят от информация, т.е. от сензори, сензорите могат да имат напълно самостоятелна употреба и да не са свързани с постигането на определен ефект върху средата. За собственика на вещта може да е важно единствено събирането на определена информация, която впоследствие да бъде предадена (продадена) на друго лице. В този случай сензорите функционират подобно на рибарски мрежи, чийто улов не са морските дарове, а богатството на информацията. Ако направим още една крачка в тази аналогия, ще стигнем до едно вече утвърдено юридическо правило: когато улавяш нещо, което не е твое, ти се нуждаеш от съгласието на неговия притежател. Това е причината ползването на сензорите като вещи да не зависи единствено от техните собственици, но и от притежателите на личните данни, които тези вещи събират (улавят). Разбира се, става въпрос основно за случаите, в които вещите „засичат“, категоризират и съхраняват информация, касаеща конкретни човешки личности и позволяваща тяхното разпознаване. Подобно „коригиране“ на властта на собственика чрез изискване за съгласие от страна на лицата, спрямо които вещта произвежда своя информационен ефект, следва да бъде въведено и в случаите на събиране на статистически данни: ресурс, който може и следва донякъде да бъде управляван като публичен. Нека направим още една аналогия: както човек не може да стреля свободно със законно притежавания си пистолет в тълпа от хора, така на него следва да му бъде отказана възможността да поставя записващо аудио и видео устройство на улицата. Крайно време е информацията да бъде оценена с нейната реална стойност.

Предвид нарастващото значение на информацията за част от нея следва да бъдат въведени правила, аналогични на тези, отчитащи разделението на собствеността на частна и публична. Макар и в момента данните да не се считат за обект на интелектуална собственост[6], определени бази от данни имат толкова важно социално значение, че предполагат различна от частноправната регулация. Неконтролируемото им използване единствено на базата на индивидуално дадено съгласие може и създава редица етически проблеми, които трудно могат да бъдат уредени въз основа на принципа за свобода на договаряне. Подобно „изкупуване“ на информация, за която съгласието се договаря „на дребно“, т.е. всеки отделен човек дава съгласието си самостоятелно (дава съгласие да се следи определена част от поведението му), а кумулативният ефект настъпва „на едро“, т.е. за цялото общество (става възможен анализ на определени процеси, например развитието на конкретно заболяване или политически процес), не просто създава неравнопоставеност и непропорционалност между даденото („на дребно“) и полученото („на едро“), но и води до формирането на нови информационни монополи, които са в състояние да създават власт, надхвърляща властта на най-силните политически обединения, каквито са държавите.[7] Ако икономическата власт на корпорациите се посочва като реален контрапункт на политическата власт на държавите, този процес значително ще се задълбочава в полза на корпорациите при дерегулация на разпределението на информационната власт.[8]

Разпространяването на сензорите и обединяването им във все по-големи мрежи ще води до усилване на процеса на консолидиране на информационната власт, което ще позволи на субектите на тази власт не само да знаят повече за протичащите социални процеси, но и да превърнат доскорошните инициатори на тези процеси в обект на собствената си информационна власт. Предназначението на вещите се универсализира: основната причина за създаването им е събирането на информация (главно, скрито предназначение), докато декларираната им употреба е само повод за генериране на ползване (инструментално, обявено предназначение). Предназначението на вещта става принадлежност към информацията, която тази вещ събира. Основната „задача“ на вещта е да генерира употреба: било то от нейния привиден собственик, или от трети ползващи я при преференциални условия или дори безплатно лица. Така наред с непосредствения (привиден) собственик на вещта, който я ползва по нейното инструментално предназначение, се появява фигурата на скрития (реален) собственик на тази вещ, който събира и има контрол върху доскоро „страничния ефект“ от това ползването: той получава информацията за начина, по който се ползва въпросната вещ. Фокусът вече не е върху самото ползване на вещта, а върху информацията за това ползване, в която се измества смисълът на собствеността. Този процес води до възникването на нова информационно измерение на вещта, което може да бъде обозначено като метавещ, а правото върху него – като метасобственост. Вещта продължава да бъде инструмент, но този инструмент вече „живее“ в няколко паралелни измерения, при което непосредственото ползване (конкретно тривиално предназначение) все повече се обезценява в сравнение с ползването на вещта за генериране на информация (универсално информационно предназначение).

Съществуващите регулации все още акцентират върху „първата“ (непосредствената) собственост, т.е. върху непосредствено видимата полза от собствеността върху една вещ, докато идеята за регулиране на метасобствеността се възприема по-скоро като правна екзотика. В България въпросът за управление на личните данни се оставя да бъде решен на ниво законодателство на Европейския съюз, като взетите там решения впоследствие се транспонират и в националното законодателство. Това води до изкуствено поддържане на класическата „фасада“ на вещите, която успешно прикрива отговора на въпроса какво даваме, когато получаваме непосредствената полза от вещта. Отговорът на този въпрос става от изключителна важност с нарастването на броя на свързаните вещи и с разрастването на обхвата на интернет на нещата. Интернет на нещата позволява окрупняване в реално време на метаефекта от ползването на множество еднотипни и свързани помежду си вещи, което продуцира нови форми на информационна власт. Силата на тази власт понякога е несъизмерима с ползите от непосредствената употреба на вещите, поради което следва да бъде обект на специално етическо внимание. Необходими са регулации, които да ограничават метаефекта от ползването на вещите до физическите граници на индивидуалната собственост на съответния потребител. Всеки трансфер на данни между мрежи, които са извън контрола на потребителя, генерирал тези данни, следва да се осъществява не просто с негово съгласие, но и при съобразяване на определени публичноправни интереси. Както човек не може да се разхожда без никакви ограничения гол в градския център: макар и да изглежда, че това засяга преди всичко собствените му права и свободи, така той не би следвало да разполага и с неограниченото право да се разпорежда информацията, която генерира при ползването на притежаваните от него вещи.

Разбира се, всяка регулация тук следва да бъде изключително внимателна и да предлага подходящ баланс между частния и публичния интерес. Това изискване само по себе си не е някакво напълно ново предизвикателство пред правните регулации. Подходящата регулация може да се изразява както във въвеждането на специални изисквания относно формата и начина на даване на съгласието за използване на информацията от сензорите в мрежата, така и в забрана или въвеждане на лицензионен режим за предоставяне на определена информация, чието събиране може да има съществен нежелан ефект върху определени социални процеси. Настоящото изложение няма за цел да навлиза в подробностите на тази регулация, а да очертае и акцентира върху проблемите, които като че ли остават ненапълно разгадани зад фасадата на „първата“ (тривиална) собственост, което позволява на притежателите на „втората“ (информационна) собственост да генерират нови вектори на власт с публично значими ефекти. Държавата носи своята отговорност да разпознае и екстраполира тези процеси на изместване на собствеността, за да може да предложи адекватни мерки за ограничаване на възможните им негативни ефекти. Но държавата може да предприеме и точно обратния подход: самата тя да монополизира властта върху информацията и да превърне интернет на нещата в интернет на държавата. Този подход също би бил за сметка на правата на нейните граждани, които този път ще бъдат анексирани не от икономическите субекти, търгуващи с данни, а от новата информационна власт на държавата. Една от най-сериозните опасности е именно опасността от залитане в една от двете крайности: от една страна, подценяване и дерегулиране на процесите на изместване на собствеността върху вещите от физическата употреба към информацията за тази употреба (информационен либерализъм), или пък, от друга страна, експроприиране и монополизиране на информацията чрез „влизане“ на държавата във всяка вещ на своите граждани (информационна диктатура). Постигането на баланс между частния и публичния интерес предполага задълбочена дискусия при регулирането на всяка нова категория „умни“ вещи, която поставя специфични за нея проблеми и изисква възприемането на адаптиран към нея подход. Общото във всички случаи е удържането на знанието за съществуващото раздвояване в полезността на вещите и обвързването на „двете лица“ на собствеността в един общ обект на регулиране.

В обобщение може да се посочи, че и понастоящем, а може би в много по-голяма степен и в бъдеще: докато ползваме вещта, и самата вещ (ще) ползва нас. Докато работим с вещите и вещите (ще) работят с нас, без да е задължително да работят за нас. Напълно възможно е една вещ, която ни е предоставена дори за безплатно ползване, всъщност да работи за своя производител (метасобственик), докато предоставя своята полезна стойност за нас (тривиален собственик). Така например, предоставянето за безплатно ползване на един умен часовник, който следи за редица медицински показатели на своя ползвател, би могъл да има за причина за съществуването си като продукт събирането в полза на определена икономическа или политическа структура на статистически данни с цел създаване на медицински изделия, лекарствени продукти или нови правила за добра медицинска практика.

3. Етика на действието при вещите

Още по-сериозни етически въпроси поставят актуаторите, които предизвикват определена промяна в реалността било то в по подадена към тях конкретна човешка команда (в този случай имаме ясен субект на действието), или в резултат на обработката на определена информация (в този случай „решението“ се взема от алгоритъм или от изкуствен интелект). Първият случай е широко разпространен и за него човешките общества са предложили множество вече утвърдени регулации. Един от най-често срещаните актуатори е автомобилът, който се задвижва в резултат на команда, подадена от управляващото го лице. Автомобилът произвежда определено действие: придвижване в пространството, като резултатът се смята изцяло под контрола и отговорността на водача на превозното средство. Това е и основният принцип при разпределяне на вредите, причинени посредством актуатори: те се обезщетяват от лицето, което е дало или е трябвало да даде командата (виновна отговорност на водача), или, ако такова лице в конкретния случай няма: те се обезщетяват от лицето, което притежава автомобила (безвиновна отговорност на собственика). И в двата случая вещта има своя човешки „пазител“, който застава като отговорен субект пред съществуващите регулации и десезира всякакви претенции, насочени пряко към вещта. Това е така, защото вещта се задейства пряко от човека и представлява непосредствено физическо продължение на неговото поведение. Вещта това съм аз.

Ситуацията, а и регулациите, стават различни в момента, в който автомобилът се управлява автономно от заложени в него алгоритми, които изземват част или изцяло контрола на водача и предлагат собствено решение на възникващите на пътя конфликтни ситуации. Възможните адресати на отговорността при причиняване на вреди се умножават значително. Такива могат да бъдат: създателят на алгоритъма, производителят на автомобила, собственикът на автомобила, ползвателят на автомобила. Въпросът става още по-специфичен, ако се постигне т.нар. „интернет на автомобилите“, т.е. част (примерно автомобилите от определена марка) или всички (примерно автомобилите на магистралата) от автомобилите на пътя са свързани помежду си и освен че обменят информация помежду си, заедно вземат решенията за това как да бъде управляван всеки един от тях. Подобно управление на автомобилите превръща шофирането от индивидуален в колективен акт, а човекът в този автомобил: от шофьор в пътник. Съществуват и много други действия, които вече са автоматизирани и са прехвърлени на актуатори, като например релета за включване на определени процеси, задействане на защитни механизми и пр.

Актуаторите, към които етиците са най-чувствителни, а регулациите – най-предпазливи, са тези, които влизат в пряко социално взаимодействие с хората. Става въпрос за вещите, известни като роботи, за които Европейският парламент[9] прие възможността за възприемането на различни регулативни стратегии. Наред с традиционните регулации относно отговорността за вреди, произлезли от вещи, Европейският парламент позволи като приложим и подход, при която роботите получават специфична правосубектност, като за целта наред с физическите (човешките същества) и юридическите (човешките сдружаванията) се признае съществуването и на електронни лица.[10] Най-близка е аналогията с юридическите лица, които нямат реално консолидирано физическо битие, а представляват социално конструирани дадености, съществуващи умозрително: в съзнанието на своите членове и техните съконтрахенти, и формално: в поддържаните от държавата регистри за съответния вид сдружавания. Макар и юридическите лица да не притежава собствено съзнание и поведение, все по-често към тях се поставят редица етически изисквания, свързани например с корпоративната култура, отношението към работниците и клиентите, спазването на екологически правила и пр. Особено популярни през последните години са изискванията и категоризациите, известни като ESG[11], които се смятат за важни показатели за етическата ангажираност на юридическите лица. В този смисъл бихме могли да твърдим, че е налице своеобразно етическо инвестиране в персоналността на юридическите лица, въпреки че те не притежават базисни морални качества. Те не са свободни същества, натоварени със съвест, и въпреки това към тях се отправят все повече етически искания.

Тези процеси на прехвърляне на етическите изисквания към субекти, които не са човешки същества (юридическите лица) могат да намерят приложение и по отношение на „умните“ вещи. Дори и когато тяхната самостоятелност е ограничена до осъществяването на едно конкретно действие, това действие може да бъде оценено етически, включително да бъде уредено със система от правила, определящи кога това действие е добро (трябва да бъде извършено) и кога е лошо (не трябва да бъде извършено). На базата на тези правила, които първоначално са формулирани като технически в описанието на съответната вещ (инструкцията за употреба), е възможно постепенно изместване от техническия към етическия фокус и възникване на склонност да се търси етическа оценка на това как вещта изпълнява своите функции (етически кодекс). Превръщането на инструкциите за употреба в етически кодекс на вещта е процес, който се подсилва от нарастващата автономност на вещите. След като вещите вече не са управлявани от човешки същества, спрямо които можем да прилагаме определени морални изисквания, то същите тези морални изисквания и стоящите зад тях политически и философски убеждения следва а бъдат имплементирани в механизма на самата вещ. Интериоризирането на морала става чрез инкорпорирането на определени етически убеждения в начина, по който функционират „умните“ вещи.

Подобно етическо инвестиране във вещите ще ги направи освен „умни“ и „нравствени“ вещи. В тях ще живеят етическите убеждения на техните създатели, архитекти и собственици. Така например, автономният автомобил, наред с останалите си части, може да притежава и етически модул, който да бъде настройван според моралните убеждения на всеки отделен ползвател. Един ползвател бе настроил етически модул на автомобила по такъв начин, че при евентуална катастрофа решенията на автомобила да оптимизират шанса за оцеляване именно на пътуващите в автомобила. Друг възможен приоритет в случай на възможна катастрофа е нанасянето на минимални материални щети на автомобила. Трети ползвател би предпочел по-алтруистичен подход и би дал предимство на живота и здравето на пешеходците както пред евентуалните материални вреди на автомобила, така и пред евентуалната опасност за здравето на пътуващите в него, като има предвид, че автомобилът осигурява много повече и по-ефективни механизми за защита на пътуващите в него в сравнение със защитата, с която разполагат пешеходците. Актуаторите ще се подчиняват не само на законите на физиката (технически код), но и на моралните правила в отношенията между хората (етически код).

Това ще става още по-видимо с навлизането на роботите в сферата на грижите за болни и възрастни хора. Участието на „умни“ вещи в социални взаимодействия увеличава натиска функционирането им да се третира като морално релевантно поведение, което да се отчита при тяхното притежание и ползване. То ще представлява своеобразна обратна връзка, при която хората ще оценят моралните качества на вещите на базата на социалните си взаимодействия с тях. Дори и да става въпрос за привидност: както на социалността на тези взаимодействия, така и на моралността на оценяваните качества, тази привидност е силна и моралните качества ще се появяват все по-често в техническата спецификация на „умните“ вещи. Те ще имат все по-голяма тежест при вземането на решение от човека какъв точно робот да си вземе за личен асистент или за домашен помощник. Това разширяване на моралната сфера: сферата, в която решенията на човека имат етическо значение, ще води до възникването на нови обвързаности на собствеността с нравствеността. Убежденията на собственика ще съществуват и в самата притежавана от него вещ. Въпросът за спазването на формулираните като етически правила ще се „освободи“ от евентуалните колебания във волята на лицето, като изпълнението им ще се осигурява чрез своеобразен морален автоматизъм, заложен в самата вещ. Вещта ще спазва правилото дори и при противопоставяне от страна на собственика (нека отново си спомним за автомобила, който отказва да се движи, ако установи, че шофьорът е употребил алкохол). Влагането на подобни Одисееви споразумения[12] във вещите ще ги превърне в топоси на делегирана нравственост. В тези случаи моралният субект ще се разпада на (в) своите вещи, или ако предпочитаме евфемизма: ще децентрализира своето морално решение в морално ангажираните вещи, с които се е обградил. Самият той – като морална личност, ще се превърне в агрегация на своите вещи (вещи=убеждения), а вещите ще започнат функционират и на едно ново ниво: като интернет на нравите („internet оf manners“ или „IoM“). Така, като част от новата концепция, наричана „интернет на всичко“[13], може да бъде обособен един нов „интернет“ – „интернет на нравите“, под който следва да с разбира свързани по между си умни вещи, материализиращи определени морални убеждения („неща“[14]), които оказват въздействие върху поведението на хората, като го организират съгласно съществуващи морални правила, принципи и ценности.

4. Усилване на вещите и отслабване на нравите

От посоченото по-горе в развитието на технологиите могат да бъдат обособени две етически значими тенденции.

Първата тенденция е свързана с обстоятелството, че всяка вещ събира, съхранява и обработва все повече данни (data harvesting) за средата, в която се намира. Събираните данни са в такива количества, че на практика не могат да се интерпретират от хора. Това налага тяхната обработка да бъде делегирана изцяло в полза на сложни алгоритми или непроницаем изкуствен интелект, чиито механизми на действие стават все по-трудно обясними и разбираеми от хората. В бъдеще засилващата се дистанция между хората (адресатитe на решението) и машините (авторитe на решението) може да наложи съществуването на специални комуникатори на технологичните решения, които да обясняват и оправдават защо софтуерът преценява като правилно или неправилно определено човешко поведение.[15] Разбира се, това „добавяне“ на мотиви към решение, чиято правилност се оправдава единствено поради историческите данни за неговата ефективност, ще представлява по-скоро процес на изкуствена наративизация, която цели единствено своеобразно „очовечаване“ на решенията. Развитието на технологиите ще доведе до нова ера на валидни решения без мотиви, които се вземат от технологии, съзнателно извадени от контрола на хората, които не са в състояние да интерпретират огромните количества от данни, събирани от техните вещи. Подобна дехуманизация може да обхване и процеса на вземане на етически решения. Ако в началото етическите убеждения могат да бъдат инкорпорирани във вещите като система от ясни правила (от примера: шофьорът е употребил алкохол – двигателят на колата отказва да запали), впоследствие те може да съществуват като квазиетически съждения (каквито виждаме във вече съществуващите инструменти за социален рейтинг: системата е преценила един човек като опасен, следователно правилно е той да не бъде допускан до публични събития, където може да извърши терористичен акт). Умните вещи са нов тип „свидетели“, а „дълбоките“ технологии подкопават дълбочината собствените ни етически способности.

Втората тенденция е свързана с изграждането на свят от вещи, в които има все повече вградени правила (embedded rules), които са от такова естество, че ако вещите бъдат „настроени“ правилно, тези правила практически не могат да бъдат нарушавани от своите адресати: хората. Създаването на подобна нормативно фиксирана среда, гарант за която са технологиите, държащи в ръцете си „живота“ на вещите, е сериозно посегателство спрямо човешката свобода[16]. Убежденията на хората съществуват не само като абстрактно изразени идеи, но и като поведение. Свободата предполага това поведение да може да се осъществи както в сферата на законното, така и отвъд нея. Носенето на отговорност е по правило последваща съответното действие реакция на общността, а всяка 100% ефективна превенция всъщност е отнемане на реалност. В някои случаи човек нарушава определени правила съзнателно, давайки израз на свои убеждения, които впоследствие се оказват ключови за развитието на самите регулации. Нека си представим свят, в който технологиите осъществяват 100% ефективна превенция на всякакви протести срещу правителството, като обработват личните данни на всеки човек и с помощта на „умни“ вещи „заключват“ неговото поведение само в допустимото от законите, които закони са приети от същото това правителство. В подобна технологична диктатура вещите са нов тип „пазители“ на статуквото, преодоляването на което се оказва извън възможностите на човека.

Процесът на усилване на вещите чрез изместването: „пасивни обекти (предмети) – оракули[17] (сензори) – агенти (актуатори) – субекти (роботи, включително софтботи)“, поставя редица конкретни етически проблеми. Дори и само фактът, че „умните“ вещи събират и разполагат с изключително чувствителна лична информация нарушава личната неприкосновеност на техните потребители. Този проблем е особено видим на работното място (или изобщо при попадане на човек в неконтролирана от него „умна“ среда), където осъществяването на мониторинг на работниците може да доведе до възприемане от тяхна страна на дефанзивно (отбранително) поведение, което е неавтентично, безрисково, автоматично и в крайна сметка нечовешко.[18] При осъществяването на пълен мониторинг на работното място служителите могат да заприличат на актьори (без да са агенти), които изпълняват заложения за съответното място сценарий (това, за което следят сензорите и което осигуряват актуаторите) под светлините на наблюдаващите ги технологии.

Част от въпросите, които изискват етическо осмисляне и ясни правни регулации, са следните: кой ще има достъп до събираните лични данни и как ще се упражнява, разпределя и контролира тази нечовешка власт; за какво ще бъдат използвани личните данни и как ще бъде ограничена възможността за дискриминация чрез въвеждане на ограничения в събирането и ползването на данните; как можем да предотвратим злоупотреби с тази информация и дали това може да се постигне ефективно чрез използването на концепцията за правата на човека и в частност чрез обособяване на едно новото поколение от информационни права; кой ще отговаря за вещите[19] и дали етическото понятие за „вина“ има място в интернет на нещата или то ще бъде заместено от изискването за ефективност като основна цел при оптимизацията на технологиите. Мислими са нови „отблъскващи“ права, като например „право на изключване“, част от което е вече наложилото се в Европа „право да бъдеш забравен“[20] и което може да се интерпретира като част от „правото да бъдеш оставен“. Друго важно човешко право в ерата на „умните“ технологиите следва да бъде правото на прозрачност, т.е. правото на всеки човек да знае мотивите, които стоят зад всяко решение, което се отнася за него.

В свят, в който вещите не само „помнят“, но и активно се съпротивляват срещу аморалните им употреби[21], наред с частните и публичните пространства, ще се оформят и нови технологично управлявани пространства, които имат специфично етическо съдържание: в тях са изчерпателно са предначертани всички възможни поведения, предварително преценени като законосъобразни и етически поносими. Това ще позволи да говорим не само за своеобразен етически дизайн на вещите, но и за съществуването на нови професии: етически сценарист и режисьор на пространствата. Тези пространства вече не са морално „празни“, а са изпълнени с предварително фиксиран набор от възможни поведения. Този набор от възможни поведения е създаден въз основа на определени убеждения, а когато наборът се определя въз основа на „дълбоко учене“ – преценката за съществуването му е отвъд всякакви убеждения, тъй като основната цел на „дълбокото“ решение е постигане на максимална ефективност при реализирането на определена цел. В този смисъл целта не просто оправдава, а създава средствата, като обезсмисля убежденията. Моралният потенциал на тези „умни“ пространства ограничава свободния избор на хората, които деградират от морални агенти до дресирани актьори без убеждения. Конструират се „пространства игри“, в които възможните избори са ограничени и водят към предопределени сценарии. В тези морално курирани пространства етическите правила са изцяло екстернализирани, а ролята на Бог като абсолютен гарант на морала е дистрибутирана във всяка използвана от нас „умна“ джада. След смъртта на Бог, обективността на морала има своя втори шанс, благодарение на технологическата възможност за превръщане на моралните закони във физически закони. Подобни тенденции ще изискват от етиката да разпознае като свой важен обект на изследване, освен поведението на хората, но и етическия дизайн на вещите и моралната архитектура на пространствата.

В свят, в който настройваме етиката така, както настройваме едно радио, а плашещата със своето разнообразие свобода е отстъпила пред универсалното удобство, намалява нуждата от съвест, което води и до отслабване на нравите. Там, където самата реалност не позволява определени нарушения (защото някой друг вече се е погрижил за нашия морал), съвестта на вещите е достатъчна, а хората все по често са само наблюдатели, които не се нуждаят от убеждения. В подобен свят моралът е нещо, което се конфигурира, адаптира, ъпдейтва и по всяко време може да спре, ако… спре интернетът. Ако спре достъпът до интернет спират и моралните ни убеждения. Самото пространство, изпълнено със свързани помежду си нравствено усилени вещи, функционира като морален екзоскелет, в който съществуват не актуални поведения и убеждения, а предварително организирани сценарии. Това не само отслабва нравите, но и променя самите методи за тяхното изследване. Етическите убеждения излизат от „главите“ на хората и се превръщат в „морален фон“, в част от „инфраструктурата“ на нравите. В подобни морално „усилени“ общества, моралът, подобно на всичко останало, се консумира като възможен и дори физически гарантиран „избор“ без убеждения. Единственото убеждение е вярата в способността на технологиите да решат проблема със злото. Вярата в това, че добродетелите могат успешно да живеят във вещите, като осигуряват овладяването на моралната ентропия на хората чрез дърво от етическите сценарии на поведение, вградено в социално значимите пространства. Ще оцелеят ли моралните емоции в етическата инфраструктура на интернет на нещата и дали моралната киберсигурност е в състояние да сложи край на „изкушенията на Дявола“? Това са част от въпросите, на които може да отговори само една отворена към интердисциплинарността етика, в която моралният популизъм на вещите се посреща не с философски корпорализъм, а с ясно разбиране на технологиите и с открито признаване на техния огромен етически потенциал.

БЕЛЕЖКИ

[1] В настоящата статия е предпочетен терминът „интернет на нещата“ пред „интернет на вещите“, тъй като той отговаря в по-голяма степен на трансформацията, която свързаността предизвиква у вещите: те стават по-„многозначителни“ (неясни, неопределени) в своите функции и се отдалечават от фиксираната полезност, която по правило имат притежаваните от хората физически обекти. Именно тази неопределеност на „новите“ свързани вещи може да бъде посочена чрез обозначаването им като „неща“ вместо (просто) „вещи“. В подкрепа на термина „интернет на вещите“ пред „интернет на нещата“, вж. Алексиев, П. (2016). Интернет на вещите – възникване, същност и разграничение. – В: Годишник на департамент „Администрация и управление“, № 1, 345 – 348.

[2] Развитието на интернет на нещата е в тясна връзка с въвеждането и използването на 5G технологията. Именно тази технология превръща интернет на нещата не просто изобретение, а в иновация със сериозно социално въздействие.

[3] В изследванията на тези процеси се посочва, че еволюцията на интернет е от „интернет на хората“ към „интернет на хората“ (броят на включените в интернет вещи надхвърля броят на включените в интернет хора). Вж. Evans, D. The Internet of Things How the Next Evolution of the Internet. Is Changing Everything. White Paper. CISCO, април 2011, достъпна на следния адрес: https://www.cisco.com/c/dam/en_us/about/ac79/docs/innov/IoT_IBSG_0411FINAL.pdf.

[4] За историята на концепцията „интернет на нещата/вещите“ вж. Internet of Things (IoT) History. A closer look at who coined the term and the background evolution into today’s trending topic, публикувана на 11.12.2019 и достъпна на следния линк: https://www.postscapes.com/iot-history/. Терминът се свързва с името Кевин Аштън, за когото се смята, че прави за пръв път презентация на идеята през 1999 г. Самият Аштън претендира своето първенство при използването на термина в следната негова кратка он лайн публикация: Ashton, К. (2009). That „Internet of Things“ Thing. In the real world, things matter more than ideas. – In: RFID JOURNAL, 22.07.2009.

[5] Вж. Закона за защита на личните данни (Обн., ДВ, бр. 1 от 4.01.2002 г., в сила от 1.01.2002 г.), който транспонира Регламент (ЕС) 2016/679 на Европейския парламент и на Съвета от 27 април 2016 г. относно защитата на физическите лица във връзка с обработването на лични данни и относно свободното движение на такива данни и за отмяна на Директива 95/46/EО (Общ регламент относно защитата на данните.

[6] Вж. чл. 4, т. 4 от Закона за авторското право и сродните права, според която не са обект на авторско право новини, факти, сведения и данни.

[7] За властта, която дава информацията вж. подробно Зубов, Ш. (2022). Епохата на надзорния капитализъм. С., Дилок, 2022.

[8] Разбира се, различните държави възприемат различни политики, като най-ясна е тази, заета от Китайската народна република, при която държавата е тази, която съсредоточава не само политическата, но и икономическата и информационната власт над своите граждани. Вж. например Brussee, V. (2022). China’s social credit score – untangling myth from reality. In: Merics, 11.02.2022, достъпна на следния адрес: https://merics.org/en/opinion/chinas-social-credit-score-untangling-myth-reality.

[9] Вж. Предложение за Регламент на Европейския парламент и на Съвета за определяне на хармонизирани правила относно изкуствения интелект (законодателен акт за изкуствения интелект) и за изменение на някои законодателни актове на съюза от 21.04.2021 г., достъпно на страницата на Европейската комисия: https://eur-lex.europa.eu/legal-content/BG/TXT/HTML/?uri=CELEX:52021PC0206&from=EN.

[10] Вж. Ставру, С. Електронни лица – нови “употреби” на правосубектността“ – В: Вълчев, Д., П. Панайотов, С. Гройсман, Кр. Манов (съст.) Научни четения на тема „Правни норми и правни принципи“. Сборник доклади от научна конференция, организирана от катедра „Теория и история на държавата и правото“ и катедра „Наказателноправни науки“ на ЮФ на СУ „Св. Климент Охридски“, проведена на 15 май 2017 г. С., УИ „Св. Кл. Охридски“, 2017, с. 494-510.

[11] Вж. например Skeet, A. (2022). What do ESG and Ethics Have in Common? – In: Ethics and ESG Resource Center, 04.02.2022, достъпна на следния адрес: https://www.scu.edu/ethics/esg/what-do-esg-and-ethics-have-in-common/.

[12] За т.нар. „Одисееви споразумения“ (Ulysses Agreements), които имат за цел ограничаване на бъдещите решения на едно лице, вж. подробно вж. Elster, J. (2000).Ulysses Unbound. Studies in Rationality, Precommitment, and Constraints. Cambridge, 1–56.

[13] Вж. например Martino, B., A. Esposito, S. Nacchia, S. Maisto. (2018). Towards an Integrated Internet of Things: Current Approaches and Challenges. – In: Internet of Everything. Algorithms, Methodologies, Technologies and Perspectives, 13 – 33.

[14] Включването в съдържанието на „нещо“-то и на „нематериално или абстрактно понятие“ в българската литература е направено от Николов, Н. (2020). Мозъчните устройства като информацонно-обслужващи разпределители. Дисертационен труд за присъждане на образователната и научна степен „доктор“. 127.

[15] В този смисъл не трябва да ни изненадва новината, която дойде от Китай, за превръщането на съда в мрежа (интернет на решенията), управлявана от изкуствен интелект. Вж. Десподов, Д. Китай започна да използва изкуствен интелект за подобряване на съдилищата. –В: Kaldata, 18.07.2022. Посочено е, че съдията, който иска да се отклони от решението, дадено от изкуствения интелект, ще трябва да се мотивира и да обясни защо предлага подобно отклонение. Изискване за подобно мотивиране обаче не се отправя към решението на изкуствения интелект. Причината за това е, че при т.нар. „дълбоки технологии“, каквато е и deep learning технологията, използвана за обработка на огромни бази данни, начинът на вземане на решение е непрозрачен и не може да бъде изцяло обяснен по начина, по който хората мотивираме решенията си.

[16] Вж. подробно Ставру, Ст. Интелигентните роботи и светът на технологичната нормативност“ – В: Ставру, Ст., М. Станкова, П. Михова (съст.) Биоетика и биоправо – модерни практики и политики на бъдещето. Сборник доклади от IV Национална конференция 21-22 Октомври 2016 г. С., 2017, с. 21 – 32.

[17] Като „оракули“ (Oracles) се обозначават устройства или обекти, които свързват детерминистичен блокчейн с данни извън веригата. Вж. например Collins, Р. What Is a Blockchain Oracle? –In: Better Programming, 03.09.2020, достъпна на следния адрес: https://betterprogramming.pub/what-is-a-blockchain-oracle-f5ccab8dbd72. Такива устройства са необходими например, за да може да се изпълни един „умен“ договор в рамките на блокчейн платформа. В контекста на настоящата статия може да се каже, че оракулите са специализирани сензори, чиито измервания имат определени правни последици.

[18] Това ще бъде окончателният „край на добродетелите“. Вж. Макинтайър, А. (1999). След добродетелта. С., Критика и Хуманизъм,

[19] Вж. Ставру, Ст. (2020). Вещи в природно състояние: собственост и отговорност за вреди. С., Сиела, 43 – 78.

[20] Подобно право на информационна неприкосновеност следва да бъде признато и в полза на децата, въпреки желанието на техните родители да знаят всеки момент къде се намират децата им. Проследяване на местоположението на децата от техните родители следва да става с тяхно знание и при уведомяване на самото дете за всяка справка, която е направена за неговото местоположение. Чувствителност към личната неприкосновеност на детето като човешко същество с достойнство трябва да се уважава и развива независимо от възрастта и достигането на пълнолетие. Вж. например Gelman, S., M. Martinez, N. Davidson, N. Noles (2018). Developing Digital Privacy: Children’s Moral Judgments Concerning Mobile GPS Devices. – In: Child Development, № 89, р. 17–26.

[21] Част от примерите вече бяха дадени: автомобил отказва да запали, докато не си сложим колана; компютърът отказва да изпрати имейл, съдържащ обида; оръжие отказва да изстреля куршум срещу дете и др.