Сп. „Етически изследвания“, бр. 3, кн. 2/2018

ЕТИКАТА ПРЕД ПРЕДИЗВИКАТЕЛСТВАТА НА КИБЕРНЕТИЧНАТА ТРАНСХУМАНИЗАЦИЯ

СИЛВИЯ МИНЕВА

СУ „Св. Климент Охридски”

silvia_mineva@abv.bg

 

ETHICAL CHALLENGES OF CYBERNETYC TRANSHUMANISATION

SILVIA MINEVA

SU “St. Kliment Ohridski”

 

Abstract

The goal of the paper is to describe and analyze the necessity and subject area of the ethics as a critical discourse and corrective of technical progress today. For this purpose, the exhibition includes comments about the typical for this progress tendencies and phenomena such an Internet, AI, Robotics, Digitalization etc., according to their moral perspectives and risks. The analysis is in the context of the most popular contemporary concepts as Datability, the Internet of Everything, and Тranshumanism as conceptions of the future of man as a future of hybrids between human beings, machines and artificial intellect.

Keywords: technological progress, Internet, digitalization, AI, Robotics, Transhumanism

 

Известна максима гласи, че най-бързото нещо на света е мисълта. Днес сме по-склонни от всякога да очакваме тази бързина от „умните” технологии, чиито възможности надвишават многократно физическите и все повече от интелектуалните човешки качества и способности. Въодушевени от тази перспектива,  поръчители, създатели и разпространители на технологии промотират усилено техническите иновации и тяхното масово възприемане и използване в глобални мащаби във всички сфери на стопанския, обществения и частния живот на хората и техните общности –политически, икономически, културни.

Целта обикновено е една и съща – всичко да става по-бързо, по-лесно, по-ефективно, с минимален разход на енергия, т.е. на природни и човешки ресурси, и максимален резултат, независимо дали става дума за банкови операции, таксиметрови услуги, медицински интервенции, музикални концерти или театрални постановки, училищно обучение или неформално образование, военновъздушно разузнаване или наблюдение на уличното движение…. Но ускорявайки все повече процесите на взимане на решения с помощта на технологии, съкращаваме и времето за тяхното обмисляне и възможността за упражняване на „практическата мъдрост, свързана с моралната преценка”, както определя П. Рикьор етическия стремеж, който не се нуждае от пресмятане, а от избор. В резултат на това в сянката на впечатляващата мощ и експоненциалното технологично развитие остават въпросите за разминаването между желания и възможности, което отдавна не се свежда само до липсата на възможности за реализиране на желанията. Напротив, развитието на съвременните технологии все повече се доминира от тенденцията техните възможности да „изпреварват” нашите желания като ги предугаждат и дори формират под предлог, че така улесняват изборите ни.

Имам предвид по-специално характерния парадокс, който се оформя около използването на технологичните възможности и подобрения като определящи стандарти не само за индивидуалните шансове за успех на хората, но и за това те да не се окажат изложени на различни рискове за здравето, дори живота или да не загубят  признанието си като членове на обществото. Често посочван пример в това отношение е разпространението и употребата на стероиди сред професионалните спортисти като принудени да ползват новите технологични постижения, не защото желаят това, а за да не изостанат в спортните постижения, осигурявани с помощта на стероидната индустрия. Тази индустрия от своя страна черпи стимул за развитието си именно от техните спортни постижения, слава  и реклама, осигуряващи ръст на потреблението на продукти и услуги – както на тази, така и на сродните й индустрии. С това порочният кръг се затваря в един безкраен цикъл от технологични иновации,  различните им приложения и тяхното масово разпространение, продажба и потребление, подчинени на една и съща цел – безкраен растеж на печалбата. Така свободният избор, в крайна сметка,  се оказва резултат не  толкова на индивидуални желания, колкото на  надинидивидуалния натиск и принуда, които упражнява върху своите членове съвременното общество като общество на „свободния пазар”, икономическия растеж, печалбата и потреблението, осигурявани от т.нар. икономика на знанието, поставена в услуга на пазарната конкуренция.

Възможностите за деиндивидуализация чрез маргинаризиране на индивидуалния избор под влияние на технологичния напредък е само един от многото и то съвсем не най-стряскащи примери за това, че въпросът докъде и колко бързо може да се стигне с помощта на технологиите, е не само икономически или технически въпрос. Той е също така и най-вече морално-философски и етически въпрос, защото засяга из основи отношението на човека към самия себе си и разбирането му за собствената идентичност. Вероятността за превръщането на тази идентичност в потребителска опция благодарение на технологичните иновации изглежда все по-реалистична в плана на множащите се различни употреби както на съвременните ИКТ, всеобщата свързаност  и опазаряване на всичко чрез дигитализацията на света, така и на био-, нанотехологии и тяхната конвергенция, позволяваща киборгизация на хора и кибернетизация на човешкия живот за всякакви  цели – както  мирни и медицински, така и евгенични и военни.

Колкото и да са разнопосочни на пръв поглед, всички тези технологии имат своята пресечна точка в обстоятелството, че като най-характерна за техния прогрес се откроява тенденцията към технологично въздействие все повече не само върху вещите, околната среда, природата, но най-вече върху самия човек. Така особено актуално днес се оказва технологичното моделиране на човешкото същество, на което то подлежи случайно или целенасочено, но постоянно и все по-интензивно. Като комплексен и постоянен процес това моделиране предполага въздействие  върху всичко човешко –поведение, съзнание, тяло.

Независимо дали е хаотично или планирано, моделирането на човека чрез технологии винаги има за цел или ефект „приспособяването” му към изкуствено създаваните обстоятелства и организация на средата, в която той живее и действа. Днес такава среда за все повече хора става виртуалната реалност на киберпространството, създадено чрез технологии като цифровизацията на света, осигуряващи нарастващото взаимодействие и сближаване между цифровия и физическия свят  в посока на размиване на техните граници до пълното им сливане. Процесът на технологично приспособяване на човека към тази реалност обикновено се нарича киборгизация, а на реалността към човека – кибернетизация.

В зависимост от преследваните цели киборгизацията може да включва различни технологии и се простира от създаване на кибернетичен организъм (киборг) чрез имплантиране на „чужди” елементи в човешкото тяло до протезирането му с различни „външни” приспособления, усилващи и разширяващи обичайните му възприятия и естествени способности, потапяйки го в  т.нар. добавена или „обогатена” реалност с помощта на съответни устройства – „умни” очила, часовници, гривни и др приспособления, благодарение на които става възможно комбинирането на елементи от естествения свят с компютърно генерирани данни.

Коеволюцията на съвременните технологии позволява редом с „отглеждането“ в лабораторни условия на хрущяли, носове, уши, кръвоносни съдове, сърдечни клапи, да се проектират и мозъчни микрочипове за усилване на паметта и когнитивните способности. Очакванията са, че в скоро време обществото ще владее телепатия, за която не ще са нужни свръхспособности, защото ще се състои в управлението на роботи със силата на мисълта. Това вещае привикването на човешкото тяло към протези и помощни средства, благодарение на които хората ще се освободят от всякакви лимити  – на паметта, времето, пространството, отдалечавайки се все повече от своя естествен произход, за да се доближат колкото може повече до вечността на безсмъртието.

Сред най-авангардните визии за целенасочено и системно технологично  „еволюиране” на човека в хибридни превъплъщения днес е трансхуманистичният проект, поддържан и защитаван от философи-футуристи като Макс Мор и теоретици на технологичната сингулярност като Р. Курцвейл. На Мор принадлежи и най-популярната дефиниция на трансхуманизма. Според нея  трансхуманизмът е „вид философия на живота, която се стреми към продължаване и ускоряване на еволюцията на интелигентната форма на живот отвъд сегашната й човешка форма и ограничения чрез наука и технологии, ръководени от принципи и ценности, насърчаващи живота.” [More, 1990]

Става дума за безкрайно разширяване на физическите, интелектуални и психически възможности на човека до такава степен, че дори естествени явления като стареенето, боледуването, умирането да престанат да са човешка участ   вследствие на биологическото и умствено „подобряване” и усъвършенстване на човека като вид чрез науката и технологиите и  извеждането на човечеството на нов етап от съществуването му –постхуманоидната ера.

Курцвейл на свой ред е убеден, че „същността ни на човешки същества не се състои в нашите ограничения – колкото и много да са те – а в способността ни да отидем отвъд тези ограничения. [Kurzweil, 2005:234] Съчетано с вярата в нарастващите темпове на технологичния прогрес, това убеждение му позволява да прогнозира като следваща стъпка в еволюцията появата на интелигентност, която ще продължи да представлява човешката цивилизация, но която вече ще е цивилизация на човеко-машини. В тази цивилизация, според известния футурист, по-големият дял от интелигентността ще е от небиологичен вид. [Kurzweil, 2005:40]

Дефиницията на трансхуманизма като културно и интелектуално движение, както и неговата мисия и цели, представени като трансхуманистична декларация,[1] утвърждават за трансхуманистични приоритети ускоряването на човешкото еволюиране  и отиването „отвъд” онова, което е било грижа на всеки предишен хуманизъм – човешкото същество и преобразуването на света така, че да го направи подходящ за живеенето по човешки. Подобна грижа остава извън полезрението на трансхуманизма, който се фокусира върху преобразуване на човешките тела, качества, способности според индивидуалните избори на хората, защото най-доброто, което можем да бъдем, е това, което искаме да направим.

Амбициозните и особено постчовешките планове на трансхуманистичния проект провокират на свой ред стари тревоги и нови безпокойства около пренаселването на планетата, изхранването на населението и опасността от появата на нови видове дискриминация и стратификация в обществото. Основания за такива тревоги и безпокойства дава биополитическото измерение на технологичните възможности за подобряване както на вече родени и живи хора, така и на още неродените. Става дума за разпространение, утвърждаване и бъдещо налагане в глобални мащаби на репродуктивни биотехнологии, основани на генно инженерство, скрининг и др.,  а с това и на един нов тип биополитическа регулация на човешкото възпроизводствено поведение, което ще е манипулируемо и контролируемо в много по-голяма степен от естественото възпроизводство на хората. В тази връзка Фр. Фукуяма изразява сериозните си описания за „неща, които могат да ни донесат генните технологии по силата на неестественото възпроизводство – например, лесбийки, които ще имат генетично потомство, или използване на яйцеклетки на нероден женски зародиш за създаването на дете, чиято майка никога не се е раждала.”[Фукуяма, 2002: 205]

В същия контекст актуално изглежда определението и на американската изследователка Дона Дикенсън за „края на природата“, предложено по аналогия с онова, което мислители като Г. Фр. Хегел, К. Маркс, Д. Бел, Фр. Фукуяма наричат метафорично „край” на историята, идеологията, капитализма…. За разлика от тях, определението на Дикинсън не се вдъхновява от идеите за кулминацията на обществения прогрес в окончателната разумна форма, отмирането на държавата като политическа организация или победата и възхода на демокрацията след Втората световна война в развитите западни държави. Мислимостта на „края на природата“ Дикенсън обяснява като предизвикана от провала на великите мечти от Просвещението за непрестанен прогрес, универсален мир и равенство между богати и бедни. Според нея провалът се състои в разочарованието и отвръщането на хората от организираните форми на религията и социалните идеали, довели до преориентацията им към индивидуалистичните и хедонистчни измерения на живота тук и сега, мечтите за собственото телесно благоденствие като преследването на дълголетие, вечна младост и абсолютно право, които изглеждат все по-постижими и примамливи благодарение на бързия напредък на биотехнологиите. [Дикенсън, 2011: 221,222]

По същността си идеята за края на природата, както и концепциите за край на историята, идеологията, капитализма, макар и създадени в различни епохи от различни автори, представляват прогнози за бъдещето на човешкото общество като политическа организация и съвместен живот на хората, движен от техните разум и идеали. В плана именно на футуристичните прогнози идеята за природата и нейната история не само като социална и човешка, но и като обект на човешка, респ. програмирана намеса чрез технологично въздействие, позволява да приемем, че сме свидетели и участници в края на природата – човешка и нечовешка – като „заварени“ и автентични форми на съществуване и живот, и началото на „постеволюционна ера“, когато достъпността на телата за тяхното модифициране, опазаряване като капиталов ресурс и стока,  се превръща в мерна единица както за качество и стандарт на човешкия живот, така и за неговата ценност, достойнство, смисъл и бъдеще. Особен принос в това отношение има т.нар. феминизиране на собствеността върху тялото, което благоприятства превръщането му в капитал и „пазаруването на тела“, както нарича актовете на покупко-продажба на човешки органи, тъкани, трупове, части от трупове и течности  американската изследователка Дона Дикенсън. [Дикенсън, 2011: 241]  Нейните наблюдения върху опазаряването на човешкото тяло, както и предупрежденията на Фукуяма за последиците от неестественото възпроизводство отразяват нарастващите опасения за бъдещето на моралните ни и социални ценности, което разкрива кибернетичната перспектива като размиване на границите между природа и технология, потребности и желания.

Предвижданията за края на човешката природа са само част от тази перспектива, защото редом с нея застават рискът от загуба на човешки контрол над интелигентните  технологии в резултат от развитието на суперизкуствения интелект, проектиран да се саморазвива и самообучава без човешка намеса и знание. С оглед превенцията на този риск едни апелират към идеала на политическата регулация като  панацея срещу превръщането на технологиите от слуга в господар на човека, а други предпочитат да се обърнат към по-широката научна общност с отворено писмо, озаглавено „Изследователски приоритети за стабилен и полезен изкуствен интелект”. [Russell, Dewey & Tegmark, 2015] В него четем следното по повод на юридическите и етическа въпроси, които повдига разработването на интелигентни системи в посока на тяхната нарастваща автономност и засягат наравно и производители, и потребители:

„Тези въпроси обхващат правото, обществената политика, професионалната етика и философската етика и ще изискват експертни познания от компютърни специалисти, правни експерти, политолози и етици.”[Russell, Dewey & Tegmark,  2015:107]

Става дума за въпросите, как ще се определя законовата и етическа отговорност при инциденти с автономизирани превозни средства като  например, безпилотни автомобили, или  как трябва да изглежда дефиницията за автономия и нейното приложение с оглед на разработването и използването на автономни оръжия, как трябва да се интерпретира способността на системите за изкуствен интелект да осигуряват данни, получени от камери за наблюдение, телефон линии, имейли и т.н., в плана на изискванията за поверителност и неприкосновеността на личните данни и  живот като човешко право?

Предвид тези въпроси авторите на писмото – университетски преподаватели, разработчици и мениджъри на компании в областта на технологиите за изкуствен интелект, настояват на необходимостта от интердисциплинарни изследвания с участието на специалисти по икономика, право, обществено управление, професионална и философска етика и компютърни науки.

Извън всички тези конкретни въпроси и предложения, върху които се фокусира писмото, остават екзистенциалните и философски въпроси за промяната на човешкото мислене, на която то е подложено, докато развива умни устройства, генериращи различни отговори на човешките въпроси.  Трансформацията на това мислене под влияние на технологичния напредък привлича вниманието на бившия президентски съветник по сигурността на САЩ Хенри Кисинджър. В своя статия, публикувана наскоро в известното американско издание за култура и политически науки  The Atlantic той посочва като най-трудният и най-важен въпрос за света, към който  сме се запътили, въпроса:

„Какво ще стане с човешкото съзнание, ако собствената му обяснителна сила е надмината от изкуствения интелект и обществата станат неспособни да интерпретират света, който обитават, с понятия, които носят смисъла му? Как ще бъде дефинирано съзнанието в един свят на машини, които редуцират човешкия опит до математически данни, интерпретирани от тяхната собствена памет?” [Kissinger: 2018]

Който и да е опит да се отговори на подобни въпроси  не би бил сериозен и убедителен, ако пренебрегва специфичния културно-исторически контекст на съвременния технологичен марш. Този контекст изисква да признаем, че проблематичността на технологиите днес е най-осезаема там, където те са на особена почит и се развиват, разпространяват и прилагат най-интензивно и планирано от най-дълго време поради възприемането им като основен фактор на общественото развитие и човешкото добруване. Към тази банална констатация  ни насочва историческият факт, че това е същото място, където навремето се ражда и започва победоносното си шествие хуманистичната философия на Просвещението.

Оптимистичната вяра в политическата активност и правния ред като гаранти на човешката свобода и обществения прогрес, изпълват с хуманистично звучене и революционен патос просвещенските идеи за необходимостта от радикални промени в социалния и политическия живот на хората, насочени към осигуряване на индивидуално благополучие и обществено благоденствие. Част от същия проект е и хуманистичната етика, на която се уповават просвещенските философи, вдъхновявани от идеала за свобода, равенство, братство.

Днес революционният устрем на Просвещенските идеи е заменен от сциентистки и технофилски проекти като глобалната дигитализация и трансхуманизма. Съвременните привърженици на тяхната идеология предвиждат в близко бъдеще технологичната конвергенция да отпрати човешкия род в „постчовешкия” стадий на историята, когато ще бъде сложен край на участта на хората като човешките същества, които са станали в продължение на ок. 100000 г. в полза на един нов, по-бърз, по-силен, по-интелигентен от всеки човек и почти безсмъртен вид – вида на кибернизираните човешки тела, хуманоидите с изкуствен интелект. Така дебатът за технологиите се оказва дебат за края не само на човешката природа, но и на  Просвещенската традиция, чиято философия формира модерния ред на обществото като основан на човешкото познание и самопознание, уповаващо се на разума. Този ред сега се променя из основи под влияние на съвременната още по-мащабна в сравнение с всички предишни технологична революция. Нейна кулминация според прогнозите отново на Кисинджър може да бъде „един свят, разчитащ на машини, задвижвани от данни и алгоритми, и неподвластен на етични или философски норми.” [Kissinger: 2018]

Проблемът следователно не  се състои само в това, дали ще разполагаме в бъдеще с машини, които ще превъзхождат хората  във всяко отношение и ще направят излишни  всяко човешко усилие и присъствие, а че и в настоящето вече все повече стават тези, които мислят и действат не като хора, а само като интернавти – потребители, които черпят и използват информация от мрежата за своите непосредствени практически нужди, без да се интересуват от нейната контекстуализация. Т.е. без да търсят и намират нейното значение и смисъл, а следователно и да упражняват и развиват своята най-човешка способност – мисленето. Така интернавтиката повдига с нова сила старите въпроси какво е човекът и в какво са смисълът и предназначението на неговия живот?

За да отговорим, ще трябва да признаем, че прекаленото фаворизиране на технологиите и безогледната технизация на всичко човешко за сметка на неговите духовни и смислови измерения е основното предизвикателство днес пред съвременните хора и техните общества. Технологичният напредък може да ни освобождава от едни грижи, но ни създава други, които са толкова по-големи, колкото е по-динамичен този напредък, защото технологиите трупат по-бързо данни, отколкото хората мъдрост. Затова ако  бъдещето на човешката природа ни изглежда застрашено, а идентичността ни все по-неопределена и изплъзваща се, то е защото  „няма никакъв неотменим прогрес, никаква еволюция, която да не е застрашена от инволюция и отстъпление.” [Ортега и Гасет, 2015: 110] Т.е. от превръщането на човешкото тяло в стока, на човешката свобода – в  постчовешка участ, а на самия човек – в  нищо повече от купчина данни.

БЕЛЕЖКИ

[1] Вж. Transhumanist Declaration  на адрес:

https://humanityplus.org/philosophy/transhumanist-declaration/

ЛИТЕРАТУРА

Дикенсънр Д. 2011. Пазаруване на тела. Алтера.

Ортега и Гасет, N. 2015. Бунтът на масите. Бард.

Фукуяма, Фр. 2002. Нашето постчовешко бъдеще. Обсидиан.

Kissinger, H. A. 2018. How the Enlightenment ends philosophically, intellectually—in every way—human society is unprepared for the rise of artificial intelligence. In: The Atlantic  June  Issue,  https://www.theatlantic.com/magazine/archive/2018/06/henry-kissinger-ai-could-mean-the-end-of-human-history/559124/

Kurzweil, R. 2005. The Singularity is Near, Viking.

More, M. (1990) Transhumanism: Towards a Futurist Philosophy. In: Extropy 6, Summer, 6-12. Retrieved in April 2013: https://www.scribd.com/doc/257580713/Transhumanism-Toward-a-Futurist-Philosophy

Russell, S., Dewey, D., & Tegmark, M. 2015. Research priorities for robust and beneficial artificial intelligence. In: Ai Magazine, 36(4), 105-114.

Transhumanist Declaration, from:  https://humanityplus.org/philosophy/transhumanist-declaration/