FORUM INSOMNIA
zabawa imprezy problemy przemyślenia seks

∑ temat został odczytany 3310 razy ¬


ZAREJESTRUJ SIĘ I ZALOGUJ NA FORUM, TO NIC NIE KOSZTUJE!
PO ZALOGOWANIU BĘDZIESZ MÓGŁ ZOBACZYĆ WYPOWIEDZI SPECJALISTÓW I WYŁĄCZYĆ REKLAMY

 
ROZRYWKA | Nauki Humanistyczne
czlowiek turinga 
Wyślij odpowiedź [powiadom znajomego]    
Autor "czlowiek turinga"   
 
maciek
 Wysłana - 6 luty 2003 15:12       
 
Przeniesiona przez Predrag z działu 'Historia'. | zgłoś naruszenie regulaminu

Sprawdź ile procent masz tłuszczu

Turing (1912-1954), jego mysli w opracowaniu J. David Bolter'a.

Bardzo ciekawy i wizjonerski tekst.

J. David Bolter

CZŁOWIEK TURINGA
(Wprowadzenie oraz Konkluzje)


Spis treści:
Wprowadzenie 1
MIARA ZMIANY TECHNOLOGICZNEJ 1
KOMPUTER JAKO TECHNOLOGIA DEFINIUJĄCA 6
CZŁOWIEK TURINGA 9
Konkluzje 11
CZŁOWIEK NATURALNY 12
OD SOKRATESA DO FAUSTA I TURINGA 14
OBCUJĄC Z CZŁOWIEKIEM TURINGA 24
WYNALAZEK I ODKRYCIE 27
KOMPUTER JAKO NARZĘDZIE 28
SYNTETYCZNA INTELIGENCJA 33


Wprowadzenie

MIARA ZMIANY TECHNOLOGICZNEJ
Żyjemy w spektakularnych, lecz nader niepewnych czasach. W niektórych dzie-dzinach nasze szansę na przyszłość nigdy nie były bardziej ekscytujące: two-rzą je wielkie osiągnięcia w dziedzinie nauk fizycz-nych, uwalnianie ludzi od wszelkich nie-bezpiecznych i żmudnych prac dzięki automatyzacji, badanie prze-strzeni kosmicznej. Równocześnie jednak społeczne i ekonomiczne problemy bliskiej przyszłości są ogrom-ne: wielkie przeludnienie, niedostatek zasobów natu-ralnych i pogarszanie się stanu środowiska naturalne-go. W przeszłości często żywiono wielkie nadzieje, prze-żywając równocześnie wielkie trudności, niemniej nasz wiek jest zapewne wyjątkowy w tym sensie, że zarówno jego problemy, jak i jego obietnice wypły-wają z tego same-go źródła - z niezwykłych osiągnięć nauki i technologu. Inne czynniki pozostają stałe. Męż-czyźni i kobiety nie są bardziej chciwi, gwałtowni, współczujący, mądrzy lub szaleni niż poprzednio. Opa-nowali oni jednak technologię, która ogromnie zwięk-sza zdolność do ekspresji tych jakże ludzkich cech. Technologia pozwala im przekształcać przyrodę odpo-wiednio do ich potrzeb, przerabiać ją na ich obraz i podobieństwo.
Jest to jednak obraz ze skazami. Faktycznie, ludz-kość jest zarówno dobra, jak i zła, przeto należy ocze-kiwać, że technologia tworzona przez człowieka będzie niekiedy raczej szkodzić naturze niż ją doskonalić. Jednakże aż do niedawna nasze umiejętności technicz-ne były tak nikłe w porównaniu z naturalnymi proce-sami chemicznymi i siłami klimatu, że tylko w skali tysiącleci mogliśmy oddziaływać na środowisko z do-brym lub złym skutkiem. Najnowsza wysoka (high) technologia obiecuje nam nową władzę zarówno nad naszą własną naturą, jak i nad przyrodą naszej pla-nety, tak więc przetrwanie naszej cywilizacji zależy teraz od inteligentnego wykorzystania tej właśnie technologii.
W naszej technologicznej przyszłości kryje się wiele elementów, lecz kluczem - sądzę, że większość się z tym zgodzi - jest rozkwitająca technologia elektro-niczna. Skupiając się na niej, mam nadzieję ukazać możliwości i ograniczenia, które stosują się do całości naszego technologicznego świata. Esej ten nie jest ele-mentarzem pro-gramowania komputerowego ani nie objaśnia szczegółowo, jak pracują komputery.
Jest na-tomiast studium wpływu, jaki elektroniczne maszyny logiczne wywierają na naszą kulturę. Nie zajmuję się bezpośrednim wpływem na ekonomię i politykę, choć wpływ ten sam w sobie jest skądinąd interesujący. Skupiam się natomiast na subtelnie j szych konsekwen-cjach, które są trudniejsze do opisania, lecz na dłuższą metę zapewne donioślejsze: na zmianie sposobu, w ja-ki ludzie wieku elektronicznego myślą o sobie samych oraz o otaczającym ich świecie.
Jest prawdą, że najbardziej widoczne rezultaty zmia-ny technologicznej mają cha-rakter ekonomiczny. Au-tomatyzacja - Europejczycy nazywają ją "racjonali-zacją" - zmienia każdą gałąź tradycyjnego przemysłu, przynosząc zwiększoną wydajność, ale również grożąc bezrobociem. Trend ten będzie zapewne nadal istniał w następnych dziesięcioleciach, gdyż mikroelektroni-ka zmienia maszyny i narzędzia mechaniczne w bar-dziej ,,zmyślne" urządzenia: raczej programowane do wykonywania wielu powiązanych zadań, aniżeli tylko powtarzające jedną czynność. Już dzisiaj jest zagrożo-na praca urzędnika-rejestratora: od ponad trzydziestu lat komputery inwentaryzują, wystawiają faktury oraz zasypują bez końca raportami wielkie firmy; obecnie zaś mikrokomputery robią to samo w mniejszych przedsiębiorstwach. I nie chodzi tu o to, czy to prze-twarzanie informacji rzeczywiście poprawia wydaj-ność. Większość wielkich przedsiębiorstw twierdzi, że przy tej skali działalności nie da już sobie rady bez elektronicznego sprzętu.
To samo można powiedzieć o społeczeństwie Zacho-du w ogólności. Komputery stały się niezbędne, gdyż tak wielu ludzi żąda tak wielu usług zarówno od ad-ministracji państwowej, jak i od sektora prywatnego. Krytycy wieku komputerowego dostrzegają niebez-pieczne konsekwencje takiej zależności. Te nowe ma-szyny psują klimat społeczny, w którym żyjemy i pra-cujemy. Zanika zdolność reagowania po ludzku, kiedy człowiek nie jest traktowany jak jednostka o niepo-wtarzalnej historii i problemach, lecz jak numer iden-tyfikacyjny, do którego przypisany jest wektor da-nych ilościowych. Pozytywne jakości humanizmu mo-gą zostać na dobre utracone, je-śli społeczeństwo zmie-rza ku przekonaniu, że nie ma niczego, co ważne w kondycji ludzkiej, a co nie dałoby się skwantyfikować (policzyć i pomierzyć) i wprowadzić jako infor-macje do komputera.
Czy krytycy mają rację? Czy komputer zagraża wartościom ludzkiego świata? Nie dość dobrze pojmu-jemy jeszcze technologię elektroniczną, by właściwie oceniać jej potencjał czynienia dobra i zła. Z pew-nością nie wyjaśnimy, jak elektronika zmienia nasze społeczeństwo, wskazując tylko na jej rozległy wpływ ekonomiczny. Mówiąc o liczbie etatów zlikwidowanych na skutek automatyzacji, o liczbie transakcji banko-wych przeprowadzanych elektronicznie albo o pienią-dzach zainwestowanych w kom-putery przez przedsię-biorstwa, popełniamy ten sam błąd, który zarzuca się kompute-rowi: mylimy analizę ilościową z jakościową. Tło ekonomiczne jest ważne, ponieważ świat biznesu finansował szaleńcze tempo, w jakim technologia elek-troniczna rozwi-jała się w ciągu ostatnich trzydziestu lat. I dzisiaj większość komputerów przeznaczo-na jest do tak prozaicznych zadań, jak kontrola towarów i przygotowywanie faktur.
Warunki ekonomiczne jedynie sprzyjały temu, by komputery stały się sprzętem powszechnego użytku i dlatego potencjalnie ważnym; to jednak nie liczeb-ność, ale ich szczególne cechy jako maszyn pozwalają im zrealizować ten potencjał. To samo od-nosi się do samochodu i telefonu. Dopóki miliony samochodów nie zaczęły jeździć po drogach, samochód nie mógł zmienić charakteru społeczeństwa amerykańskiego:
klasie średniej umożliwić nową ruchliwość przestrzen-ną i społeczną, a literatom dostarczyć nowego, najczę-ściej negatywnego, symbolu amerykańskiego ducha tech-nologii. Zanim telefon nie stał się aparatem ma-sowo rozpowszechnionym, nie mógł służyć milionom użytkowników jako niweczący odległość środek komu-nikowania, a dla literatów stać się symbolem izolacji i dystansu między ludźmi. Warunki ekono-miczne po prostu ujawniły cechy, które tkwiły w tych urządze-niach utajone od mo-mentu skonstruowania pierwszych prototypów.
Tak też jest z komputerem, z tą różnicą, że techno-logia elektroniczna nie osiągnęła jeszcze tej dojrzało-ści, jaką rewolucja w transporcie osiągnęła w Ameryce w latach dwudziestych. Komputery zmieniają, choć jak dotąd głównie pośrednio, życie społeczeństw pół-nocnoamerykańskiego i europejskiego. Banki wyko-rzystują je do prowadzenia rachunków, rządy do obli-czania podatków i sporządzania spisów, lecz te ko-sztowne i tajemnicze maszyny pozostają poza zasię-giem jednostek; dysponują nimi organizacje z kapi-tałem niezbędnym do ich kupowania oraz z persone-lem do ich obsługi. Większość ludzi nigdy nawet nie zetknęła się z komputerem (z wyjątkiem salonów gier elektronicznych oraz pospolitych kalkulatorów kieszon-kowych). Zmieni się to z pewnością, gdy silne mikro-komputery staną się dostępne dla warstw średnich - gdy cena uczyni je bardziej atrakcyjnymi - najpierw jako zabawki, a następnie jako ułatwienie życia w no-woczesnym społeczeństwie. Kiedy komputery także bę-dą liczone w milionach, a nie w dziesiątkach tysięcy, w pełni ujawnią swój wpływ na społeczeństwo. Za kil-ka lat wykształceni ludzie będą używać komputerów do pracy, a jest to znacznie ważniejsze niż fakt, że domowe komputery będą służyć rozrywce albo ro-dzinnemu planowaniu.
Osiągnęliśmy już etap, w którym fizycy, chemicy i wielu biologów wykorzystuje logikę elektroniczną do pomiarów w swych eksperymentach oraz do pomocy w staty-stycznej lub modelowej interpretacji wyników. Socjologowie i ekonomiści nie mogą się obyć bez kom-puterów. Humaniści, uczeni i pisarze jak dotąd nie znaleźli większe-go użytku dla tych maszyn. To także się zmieni, i to raczej szybko, gdy uświadomią sobie, że już choćby redagowanie tekstów na komputerze jest daleko łatwiejsze niż przy użyciu pióra czy ma-szyny do pisania. Przemysł wydawniczy już docenił korzyści płynące z elektronicznie sterowanego foto-składu. Możemy oczekiwać, że w przyszłości biblioteki, literackie i naukowe, będą magazynować zbiory na nośnikach elektronicznych i udostępniać je przez kom-puter. Nie w tym problem, czy literatura, filozofia bądź studia historyczne kiedykolwiek zostaną skwantyfikowane i wprowadzone jako program komputerowy. Humaniści, tak jak przyrodnicy i inżynierowie, będą używać komputerów po prostu dlatego, że urządzenia te staną się głównym środkiem komunikowania dla Wspólnoty uczonych Europy i Ameryki Północnej. Dzieła filozoficzne i literackie następnego stulecia bę-dą pisane na klawiaturze komputera, redagowane przez Program edycji tekstów i drukowane metodą elektro niczną - jeśli oczywiście takie prace będą w ogóle drukowane, jako że mogą być po prostu zapisane na dysku magnetycznym i elektronicznie wywoływane przez czytelnika. Na dłuższą metę humanista nie bę-dzie mógł ignorować narzędzia, którym przyjdzie mu się codziennie posługiwać: będzie ono modelować jego myśli w subtelny sposób, sugerować pewne możliwo-ści i narzucać ograniczenia, tak jak czyni to każdy inny środek komunikowania.
Wyobraźmy sobie drzeworyt lub malowidło ukazu-jące mnicha żyjącego w późnym średniowieczu. Zoba-czymy na nim ubranego w habit mężczyznę, stłoczo-nego ze swymi drogocennymi księgami w małej celi. być może przez okno mignie nam pejzaż okolic klasz-toru. Mnich siedzi lub stoi przy pulpicie z jednym lub dwoma potężnymi tomami, być może pisze traktat fi-lozoficzny lub pracowicie kopiuje rękopis. Pracuje przy świetle świecy lub w ciągu dnia, za nim na ścia-nie wisi astrolabium lub kompas do pomiarów. Nie-trudno sobie wyobrazić, że każdy szczegół w tym obra-zie odbija metafizyczne, jak i codzienne myślenie śred-niowiecznego czy renesansowego uczonego. Habit i ce-la symbolizują warunki społeczne, w jakich rozkwi-tała myśl scholastyczna: ich znaczenie jest oczywiste. Pióro, którego używał, alfabet, którym się posługiwał, pergamin, na którym pisał, fakt, że miał do czynienia z rękopisami, a nie z drukowanymi księgami, bezcen-na dlań wartość nielicznych ksiąg, które posiadał, brak porządnego światła elektrycznego, precyzja i rodzaj naukowych instrumentów, jakie miał do swej dyspo-zycji - wszystkie te elementy również miały wpływ na jego pracę. Jeden obraz nie może w pełni scha-rakteryzować stylu życia; gdybyśmy tak mogli zajrzeć do takiej celi, rzucić okiem na księgi i narzędzia lub pospacerować po klasztorze w czasach przed reforma-cją i wynalazkiem druku, z pewnością lepiej mogliby-śmy zrozumieć komentarze biblijne, summy, traktaty o logice, zbiory listów, które dotrwały do naszych czasów. W ten sam sposób antyczna mozaika lub malo-widło ścienne wyobrażające rzymskiego poetę, który spoczywając w swym ogrodzie tworzy w obecności wykształconego niewolnika, a ten zapisuje jego tekst na tabliczce woskowej lub zwoju papirusu, wiele nam mówi o typie myślenia literackiego i filozoficznego w starożytności oraz o szczególnych gatunkach pisar-skich, służących do wyrażania tego myślenia.
Kolejnym obrazem archetypowym niech będzie foto-grafia naukowca lub filozofa siedzącego przed moni-torem komputera: przed nim znajduje się ekran tele-wizyjny pokazujący słowa, które on pisze na klawia-turze. Pokój będzie słabo oświetlony, po-nieważ słowa i wykresy na ekranie same świecą, i skąpo umeblo-wany, ponieważ wię-kszość prac źródłowych i encyklo-pedycznych będzie zapisana w pamięci komputera. Pa-mięć urządzenia zapisywać będzie wyniki eksperymen-tów lub teksty literackie; programy będą kopiować teksty i przedstawiać rezultaty w czytelnych forma-tach. Mi-gający kursor na ekranie, o wiele wygodniej-szy niż stylus średniowiecznego kopisty, będzie wy-mazywał błędy; programy redagujące będą o wiele bardziej uważne niż skryba, który zapisywał wiersze starożytnego poety. Naukowiec lub filozof, który pra-cuje z pomocą takich elektronicznych narzędzi, będzie myślał w inny sposób niż ci, którzy pracowali przy zwykłych biurkach, z papierem i ołówkiem, ze stylu-sem i per-gaminem albo z papirusem. Będzie wybierał inne problemy i będzie usatysfakcjono-wany innymi rozwiązaniami.

KOMPUTER JAKO TECHNOLOGIA DEFINIUJĄCA

W przeszłości nawet doniosła nowa technologia prze-twarzania materiałów lub energii rzadko wypierała całkowicie swą poprzedniczkę. Nowa technologia na ogół podporządkowuje sobie dawną, ograniczając ją- do zadań, dla których sama jest albo niestosowna, albo nieekonomiczna. Wynalazek żelaza nie wyeliminował narzędzi z brązu, które były tańsze i łatwiejsze do sporządzania, również wiatraki czy koła młyń-skie nie rugowały wykorzystania zwierząt zaprzęgowych, gdyż nie istniał wygodny sposób ciągnięcia wozu z pomocą siły wiatru lub wody. Maszyna parowa, silnik spali-no-wy, a obecnie reaktor jądrowy nie zastąpią robotniko-wi zwykłego wózka, którym wciągnie ciężki ładunek na niskie schody. Nadal wykorzystujemy umiejętności i od-krycia (ogień, rolnictwo, górnictwo) mające tysiąc-letnią tradycję; elektronika nie jest technologią naj-ważniejszą z perspektywy przeżycia gatunku lub stop-nia naszej zamo-żności. W tym sensie nigdy nie dorów-na neolitycznemu wynalazkowi uprawy roli. Zależy-my dzisiaj od niewielkiej liczby rolników, którzy sto-sując zaawansowaną tech-nologię, żywią nas, a tym sa-mym umożliwiają nam, na przykład, rozważanie zna-czenia komputerów lub czegokolwiek innego.
Komputery same nie wykonują żadnej pracy; one nią kierują. Technologia "stero-wania i kontroli", jak zręcznie ją nazwał Norbert Wiener, niewiele jest war-ta bez cze-goś, co można kontrolować (na ogół innych maszyn wykonujących prace). Dla przy-kładu, jądrem amerykańskiego wahadłowca kosmicznego są kompu-tery, które kon-trolują niemal każdą fazę jego działa-nia. Ale jeśli potężne silniki rakietowe nie dostar-czą oczekiwanej siły ciągu, nie ma dla komputerów żad-nego zadania do wykonania. Komputery nie naruszają wielu starszych technologii, szczególnie technologii prze-twarzania energii, a mimo to sytuują je w innej perspektywie. Wraz z pojawieniem się prawdziwie zło-żonej maszyny, jaką jest komputer, stare maszyny energetyczne (silniki parowe, gazowe lub rakietowe) tracą na swym prestiżu. Maszyny energetyczne nie są już dłużej samodzielnymi urządzeniami podległymi je-dynie bezpośredniej kontroli człowieka; teraz muszą się poddać hegemonii komputera, który koordynuje ich działanie.
Jako rachujący silnik, maszyna, która kontroluje maszyny, komputer zajmuje spe-cjalne miejsce w naszym pejzażu kulturowym. Jest to technologia, która bardziej niż jakakolwiek inna definiuje nasze czasy. Nasze pokolenie udoskonaliło komputer, je-steśmy za-ciekawieni jego częściowo dotychczas urzeczywistnio-nymi możliwościami. Bezwzględnie praktyczny i wy-dajny, komputer jest czymś fantastycznym. Jego dzia-łanie zadziwia nawet inżynierów, którzy go zbudowali, tak jak rzemieślników w czternastym stuleciu musiał dziwić zegar, a nieczułych przedsiębiorców w dzie-więtnastym wieku - siła maszyny parowej. Dzisiaj komputer stale grozi nam wyrwaniem się z ciasnego pola ludzkich spraw (pomiary naukowe oraz rachunko-wość handlowa), które zostało mu wyznaczone, by za-miast tego przyczyniać się do generalnego przedefiniowania niektórych podstawowych relacji: nauki wobec technologii, wiedzy wobec władzy technicznej i, w sen-sie najszerszym, ludzkości wobec świata natury.
Ten proces przedefiniowywania nie jest nowy. Tech-nologia zawsze wywierała taki wpływ; zawsze była i mostem, i barierą między ludźmi a ich środowiskiem przyrodniczym. Umiejętność tworzenia i używania na-rzędzi oraz rozwinięta zdolność językowego komuni-kowania się sprawiły, że ludzie mogą żyć wygodniej; jednak, z drugiej strony, osiągnięcia te przyczyniły się zarazem do oddzielenia ich od przyrody.
W ciągu wieków ludzie zastanawiali się, jak to jest, że oni i ich kultura (technologia w najszerszym sen-sie) wyrastają ponad przyrodę, co właściwie czyni ich ludźmi, a nie tylko zwierzętami. Dla Greków podsta-wową cechą ludzką była zdolność do ustana-wiania ła-du społecznego i politycznego, ucieleśnianego przez państwo-miasto: ludzie w pełni swojego rozwoju mo-gli uzgadniać zbiorowe cele, stanowić prawa, prze-strzegać ich; nic takiego nie mogło być dziełem zwierząt pozostających w stanie natu-ry. Państwo-miasto było wielkim osiągnięciem technologii społecznej. W średniowie-czu osiągnięcia technologii były może bardziej natury fizycznej niż społecznej, ale użycie nieożywionych źródeł energii, wiatru i wody, sprzyja-ło nowemu widzeniu rela-cji człowieka wobec siły na-tury. Odkrycia renesansu i rewolucji przemysłowej popch-nęły ludzi w niektórych dziedzinach bliżej na-tury, w innych zaś oddzieliły ich od niej. Niezmienny nacisk na odkrywanie świata fizycznego i manipulo-wanie nim prowadził do głębszego rozumienia kwestii ziemskich zasobów. Mimo to pragnienie opanowania natury - ujarzmienia jej bardziej wydajnych źródeł energii w postaci pary i paliw ko-palnych oraz wydo-bywania metali dla celów przetwarzania - nieustan-nie wówczas rosło. Kiedy Darwin przekonywająco po-kazał, że człowiek jest zwierzęciem jak każde inne, raz na zawsze zgruchotał barierę, która oddzielała ludzi od reszty świata przyrodniczego w greckim i średnio-wiecznym łańcuchu istot. A jednak dziewiętnasto-wiecz-ni inżynierowie ze swymi kolejami żelaznymi, a tym bardziej dwudziestowiecz-ni fizycy ze swymi bombami atomowymi, wydawali się mniej włączeni w świat przy-rody niż kiedykolwiek przedtem, mniej pod kon-trolą natury lub osobowego bóstwa, bardziej zaś od-powiedzialni za swe własne błędy.
Nieustannie kreśląc linię, która dzieli naturę i kul-turę, ludzie zawsze byli skłonni wyjaśniać pierwszą w kategoriach drugiej, badać świat natury przez pryz-mat stworzo-nego przez siebie ludzkiego środowiska. I tak greccy filozofowie używali analogii z rzemiosła garncarskiego i stolarskiego, aby wytłumaczyć stwo-rzenie kosmosu: gwiazd, planet, Ziemi i jej mieszkań-ców. W ten sposób zegar ciężarkowy wynaleziony w średniowieczu dostarczył nowej metafory zarówno dla regularnych ruchów ciał niebieskich, jak i dla wspa-niale skomplikowanych ciał zwierzęcych; natomiast szeroko rozpowszechnione w wieku dziewiętnastym maszyny parowe przywodzą na myśl odmienny, bar-dziej brutalny aspekt świata przyrodniczego. Z pew-nością nie jest prawdą, że zmieniająca się technologia iest jedynie odpowiedzialna za zmieniające się poglądy ludzkości na przyrodę, lecz bez wątpienia w każdej epoce technologia stanowi atrakcyjne okno, przez któ-re myśliciele mogą widzieć swoje fizyczne i metafi-zyczne światy.
Technologia wywierała taki wpływ nawet na tych filozofów, którzy, jak Platon, generalnie pogardzali rzemiosłem i widzieli w nim kiepskie odbicie wyższej rzeczy-wistości. Nawet w chrześcijańskiej teologii i poe-zji rozkosze raju mogły być opisane jedynie jako wspa-niała wersja skażonych przyjemności, jakich ludzie za-znają na Zie-mi, a męki piekielne były spotęgowanymi torturami ziemskimi. Niemal każdy typ fi-lozofa, teo-loga czy poety potrzebuje analogii na skalę człowieka, aby objaśnić swoje idee. Mówiąc o stworzeniu jako narzuceniu porządku na świat przyrodniczy, na ogół zakłada się też jego stwórcę, a stwórca ten jest albo rzemieślnikiem, albo technolo-giem.
W tym kontekście proponuję analizować technolo-gię elektroniczną. Komputer jest współczesnym odpo-wiednikiem zegarów i maszyn parowych z poprzednich sześciu wieków; jest dla nas tak ważny jak koło garn-carskie dla świata starożytnego. Nie jest tak dlatego, że nie możemy żyć bez komputerów, lecz dlatego, że żyjąc z nimi stanie-my się innymi ludźmi. Wszystkie techniki i urządzenia są potencjalnie technologiami definiującymi, ponieważ wszystkie do pewnego stop-nia redefiniują nasz stosunek do przyrody. W istocie, w każdej epoce jedynie kilka urządzeń lub rzemiosł zasługuje na nazwę technologii definiującej. W świe-cie starożytnym stolarstwo i murarstwo były niemal tak ważne jak tkactwo lub garncarstwo, a mimo to poeci i filozofowie tylko te dwa ostatnie uznali za in-spirujące. W średniowiecznej Europie płodozmian i pług le-mieszowy miały większy wpływ ekonomiczny i społeczny niż pierwsze mechanizmy zegarowe. A mi-mo to niewielu filozofów i teologów porównywało świat do ziarna soczewicy. Pewne umiejętności i wy-nalazki łatwo się przenosiły z agory do akademii, z fa-bryki tekstyliów do salonów lub z przemysłowych ośrodków badawczych do sal uniwersyteckich.
Wizje niektórych filozofów i poetów miały ważny wpływ na takie przeniesienia. Kartezjusz i jego kon-tynuatorzy pomogli uczynić zegar technologią definiu-jącą w Eu-ropie Zachodniej. Z pewnością pierwszy poe-ta opiewający mit prządek, które snują nić życia, przy-czynił się do uznania tkactwa za technologię definiu-jącą starożytnej Grecji. Lecz musi coś być w samej naturze wybranej technologii, co sprawia, iż jej for-ma, materiały, sposoby działania inspirują zarówno umysł, jak i rękę - na przy-kład, przyjemne obrotowe ruchy wrzeciona lub autonomia i złożoność zegara wa-hadłowego.
Takie cechy, w powiązaniu ze społecznym i ekono-micznym znaczeniem danego urządzenia, pobudzają społeczne myślenie. Bardzo często urządzenie nabiera znacze-nia metaforycznego i w sztuce oraz w filozofii jest przyrównywane do elementów ożywionego lub nieożywionego świata przyrody. Platon porównał stwo-rzony wszechświat z kołowrotkiem, Kartezjusz myślą] o zwierzętach jako mechanizmach zegarowych, a nau-kowcy w dziewiętnastym i w początkach dwudziestego wieku stale przyrównywali wszechświat do maszyny cieplnej, która powoli zużywa swe paliwo. Dzisiaj kom-puter stale służy za metaforę ludzkiego umysłu lub mózgu: psycholodzy mówią o wejściu i wyjściu, czasa-mi nawet o hardware i software [sprzęcie i progra-mie - tłum.] mózgu; lingwiści traktują język ludzki tak, jakby był kodem programo-wym, a wszyscy mó-wią o nauczeniu komputerów "myślenia".
Technologia definiująca rozwija więzi, metaforyczne lub inne, z nauką, filozofią lub literaturą danej kul-tury; zawsze bez trudu może nam posłużyć jako metafora, przykład, model albo symbol. Technologia defi-niująca przypomina szkło powiększa-jące, które skupia i ogniskuje pozornie rozproszone w danej kulturze idee w jeden ja-sny, niekiedy przenikliwy promień. Technologia nie odwołuje się do podstawowych zmian kulturowych sama przez się, ale skupia idee w no-wym ognisku, w nowy sposób wyjaśniając lub egzem-plifikując je szerokiej publiczności. Kartezjańska kon-cepcja mechanistycznego świata posłusznego prawom matematyki była jasna, przystępna, a przeto wpływo-wa, bowiem współcześni mu ludzie żyli w świecie ze-garów i przekładni. Również i dzisiaj technologia elek-troniczna nadaje bardziej ogólny wyraz pewnym tren-dom w myśleniu dwudziestowiecznym, a szczególnie pojęciom logiki matematycznej, lingwistyki struktu-ralnej oraz psychologii behawiorystycznej. Trendy te z osobna były jedynie słabymi wstrząsami w historii idei; wzięte razem tworzą rewolucję w naszym my-śleniu.

CZŁOWIEK TURINGA

W rozwoju komputerów teoria poprzedzała praktykę. Manifestem nowego elektro-nicznego ładu był artykuł On Computable Numbers (O liczbach obliczalnych) opubli-kowany przez matematyka i logika Alana M. Turinga w 1936 roku. Zanim został zbu-dowany pierw-szy całkowicie programowany komputer, Turing okre-ślił istotę oraz teoretyczne ograniczenia maszyn logicz-nych. Przedstawił on symboliczny opis, który ujaw-niał jedynie ich strukturę logiczną, nie mówiąc nic o realizacji fizycznej tejże struktury (przez przekaź-niki, lampy próżniowe czy tranzystory). Maszyna Turinga, jak opis ów jest nazwany, istnieje tylko na pa-pierze jako wykaz reguł, niemniej ani jeden komputer zbudowany w minionym pięćdziesięcioleciu nie prze-kroczył tych reguł; ostatecznie wszystkie mają moc obliczeniową maszyn Turinga. Turing jest również znany jako autor zupełnie odmiennego rodzaju arty-kułu; w 1950 roku opublikował referat Computing Machinery and Intelligence (Maszyneria komputerowa i inteligencja). Jego praca z 1936 roku, przystępna je-dynie dla specjalistów, to gąszcz symboli i teorematów. Ten późniejszy artykuł był popularyzatorskim esejem, w którym Turing wyraził swe przekonanie, że kompu-tery są zdolne do doskonałego naśladowania ludzkiej inteligencji i że będą w stanie to robić przed rokiem 2000. Ten artykuł stał się manifestem grupy specja-listów komputerowych zmierzających do realizacji twierdzenia Turinga poprzez skonstruowanie tego, co nazywają oni "sztuczną inteligencją", czyli kompute-ra, który myśli.
Odłóżmy na moment kwestię, czy komputer kiedy-kolwiek będzie mógł dorównać ludzkiej inteligencji. Ważne jest to, że Turing, błyskotliwy logik i faktyczny współ-twórca rozwoju technologii elektronicznej, wie-rzył, że komputer może to osiągnąć, a wielu innych podzielało jego wiarę. Wytłumaczeniem jest po części entuzjazm dla nowego wynalazku. W 1950 roku kom-puter był na początku drogi do zawojowania wielkich obszarów nauki i biznesu oraz zjednoczenia ich pod swą technologiczną egi-dą. Ta maszyna przejmowała obowiązki sterowania i kontroli, które dotychczas zaw-sze były wyłączną domeną człowieka. Kto mógł więc przewidzieć, gdzie się skończą zastosowania elektro-nicznego sterowania i kontroli? Wynalazcy, jak od-krywcy, mają prawo do ekstrawaganckich stwierdzeń. Edison uważał, że gramofon zrewolucjonizuje oświatę; to samo mówiono o radiu oraz - rzecz jasna - o te-lewizji.
Myślę jednak, iż twierdzenie Turinga ma daleko większe znaczenie. Turing nie przeceniał usług, które może świadczyć jego maszyna. (Czy maszyna, która imituje istotę ludzką, wykonuje jakąkolwiek użytecz-ną usługę? Nie brak nam przecież istot ludzkich). Zamiast tego wyjaśniał znaczenie komputera dla naszej epoki. Technologia definiująca definiuje lub redefiniuje rolę człowieka w odniesieniu do przyrody. Obie-cu-jąc zastąpienie człowieka (lub grożąc nim), komputer podsuwa nam nową definicję człowieka jako "proce-sora informacji", a przyrody jako "informacji do prze-twarzania".
Tych, którzy akceptują ten punkt widzenia na czło-wieka i przyrodę, nazywam ludźmi Turinga. Włączam w tę grupę wielu, którzy odrzucają skrajną prognozę Turin-ga co do stworzenia sztucznej inteligencji przed rokiem 2000. Wszyscy możemy stać się ludźmi Turin-ga, jeśli nasza współpraca z komputerem ma charak-ter osobisty i trwa odpowiednio długo, jeśli zaczynamy myśleć i mówić w kategoriach sugerowanych przez maszynę. Kiedy psycholog poznania zaczyna studio-wać "algorytm do przeszukiwania długotrwałej pamię-ci" umysłu, staje się człowiekiem Turinga. Tak jak ekonomista, który rysuje diagramy wejścia-wyjścia gospodarki narodowej, jak socjolog, który poświęca - się "historii ilościowej", oraz humanista, który przy-gotowuje indeksy "słów kluczowych w kontekście".
W historii kultur zachodnich człowiek Turinga jest najpełniejszym połączeniem humanistyki i technologii, twórcy i wytworu. Obecna we wszystkich epokach tenden-cja, aby myśleć "poprzez" współczesną techno-logię, doprowadzona jest w nim do skrajności; dla niego komputer odbija, a w istocie imituje, podstawo-wą ludzką umie-jętność - racjonalne myślenie. Tu tkwi istota wiary Turinga w sztuczną inteligencję. Budując maszynę myślącą jak człowiek, człowiek stwarza się sam na nowo, określa siebie jako maszynę. Idea skon-struowania istoty ludzkiej przy użyciu technologii obecna jest od tysięcy lat w historii mitologii i alche-mii, lecz Turing i jego kontynu-atorzy nadali jej nowy kierunek. W mitologii greckiej, w historii Pigmaliona i Galatei, twór ludzki, doskonała statua z kości słonio-wej, ożywa, aby połączyć się ze swym ludzkim twórcą. W siedemnastym i osiemnastym stuleciu zwolennicy Kartezjusza najpierw sugerowali przejście w odwrot-nym kierunku, argumentując za La Mettrie'm, że lu-dzie nie są niczym więcej niż mechanizmami zegaro-wymi. Ludzie wieku elektro-nicznego, z ich pragnie-niem, by porwał ich prąd zmiany technologicznej, bar-dziej niż kiedykolwiek pragną jedności z ich elektro-nicznym homunkulusem. Istotnie, kształtują samych siebie na obraz i podobieństwo technologii, i to właśnie ich wielki zapał, ich pęd, ich odmowa uznania jakich-kolwiek zastrzeżeń wywołują tak gwałtowną reakcję ze strony ich krytyków. Dlaczego, pytają oni, techno-lodzy są tak skorzy odrzucić swą wolność, godność i człowieczeństwo w imię innowacji?
Czy powinno nas odstręczać wyobrażenie człowieka jako komputera? Nie, dopóki lepiej nie zrozumiemy, co dla człowieka oznacza bycie komputerem. Dlaczego mieli-byśmy być bardziej zdegustowani tym niż poglą-dem Kartezjańskim, że człowiek jest zegarem, lub po-glądem starożytnych, że jest on glinianym naczyniem ożywionym bo-skim tchnieniem? Trzeba nam wiedzieć, jak człowiek Turinga różni się od człowieka Kartezju-sza czy od człowieka Platona, jak komputer konceptualnie i symbolicznie różni się od zegara lub glinia-nego garnka. I aby tego dokonać, musimy odizolować te cechy komputerów i programowania, hardware i software, które mają wspomniany wcześniej powięk-szający efekt - wprowadzania idei filozofii i nauk ścisłych w nowy punkt skupienia.


Konkluzje

CZŁOWIEK NATURALNY

W poprzednich rozdziałach naszkicowałem obraz czło-wieka Turinga i wyjaśniłem, jakie elementy technolo-gii komputerowej kształtują jego szczególny charak-ter. Sądzę, że możemy teraz powrócić do kwestii po-stawionej na początku książki: Czy koncepcja czło-wieka jako komputera powinna być dla nas czymś odpychającym? Czy człowiek Turinga jest aberracją kulturową? Wydaje się oczywiste, że jest on kolej-nym krokiem, najnowszą wersją autoportretu naszej kultury. Lecz czy aby nie karykaturą wielkich wy-obrażeń przeszłości - Platońskiego człowieka staro-żytności, chrześcijanina, człowieka oświecenia? Czło-wiek Turinga stanowi najpełniejsze w dziejach świata połączenie humanizmu i techniki. Czyż jednak nie po-sunęliśmy się nazbyt daleko w usiłowaniach prze-kształcenia nas samych dzięki technologii?
Krytycy technologii w ogóle, a komputerów w szcze-gólności, przyrównują czło-wieka Turinga do ideału człowieka nie skażonego przez komputer. Człowiek, wska-zują, nie jest przetwarzaczem abstrakcyjnych in-formacji, lecz osobą, która używa lo-gicznego rozumo-wania i innych swych zdolności, by nadać cel własne-mu życiu. Pozostaje w bliskim kontakcie ze światem przyrody, jakiego nie jest w stanie osiągnąć kompu-ter ze swym cyfrowym wprowadzaniem danych. Lewis Mumford wyraził myśli wielu z nich. gdy pisał ,,Ponieważ komputer może operować tylko tymi do-świadczeniami, które można wyrazić w symbolicznej lub numerycznej formie, nie potrafi radzić sobie bez-pośrednio, jak to muszą czynić organizmy, ze stałym napły-wem konkretnych, nie dających się zaprogra-mować doświadczeń." Z tego względu uskarżał się na ,,skrajny brak w komputerze możliwości subiek-tywnego działania". Wielu innych krytyków także podkreślało, że tylko ludzie są zdolni do celowego działania, do wyznaczania sobie celów, i że ta wła-śnie cecha zapewnia gatunkowi ludzkiemu autonomię, jakiej nie mają maszyny.
Taki obraz człowieka naturalnego w opozycji do człowieka elektroniki jest rze-czywiście atrakcyjny; sam odczuwam do niego wielką sympatię. Lecz trze-ba wskazać, że w historii niełatwo znaleźć takiego człowieka natury. Nigdy nie było takiej epoki, w któ-rej więcej niż garstka ludzi żyłaby w zgodzie z nor-mami niezależności, miłości do przyrody, równowagi emocjonalnej i im podobnymi. Krytycy nowej tech-nologii zachowują się czasem tak, jak gdyby ludzkość zawsze dążyła do ideałów wrażliwości, miłości przy-rody i bycia twórczym, póki nie wynaleziono kompu-tera, by ją pozbawić tych aspiracji. W rzeczywistości taka definicja kondycji ludzkiej jest całkiem nowej proweniencji; jest produktem filozofii i psychologii rozpowszechnionej dopiero w dwóch ostatnich stule-ciach. Wartości przez nią promowane nie były wcale oczywiste dla poprzednich pokoleń zwykłych ludzi czy nawet filozofów.
Uczucia erotyczne ludzi są natury biologicznej. Na-tomiast nie ma biologicznego podłoża romantyczne i emocjonalne przywiązanie do przyrody, zwierząt i dzieci. Gre-cy, tak często chwaleni za ich równowa-gę duchową, nie uznawali naszej koncepcji miłości ro-mantycznej, która zrodziła się ze średniowiecznej oby-czajowości miłości dworskiej. Miłość do dzieci rozwijała się nawet wolniej. Wiele państw greckich tole-ro-wało zwyczaj pozostawiania niechcianego potomstwa własnemu losowi, co ozna-czało jego śmierć z braku opieki, przy czym niemowlęta płci żeńskiej częściej spoty-kał taki los. W Europie Zachodniej, aż do dzie-więtnastego wieku, dzieci zwykle przedstawiano w ma-larstwie jako małych dorosłych i traktowano je jako nie w pełni ludzkie istoty.
Także apoteoza przyrody i człowieka w przyrodzie jest produktem rewolucji ro-mantycznej. Grecy nie znali takiej koncepcji. Wielki humanista Sokrates, za-pytany przez swego przyjaciela Fajdrosa, dlaczego tak rzadko wychodzi poza mury Aten, od-powiedział wprost: "Ja się przecież lubię uczyć. Okolice i drzewa niczego mnie nie chcą nauczyć, tylko ludzie na mie-ście" [Platona Fajdros, tłum. W. Witwicki, PWN 1958, s. 43.] Nam uczenie się natury wydaje się czymś oczy-wistym; skarżymy się, że mamy zbyt mało ku temu sposobności, zapominając, że do niedawna ludzie ro-bili, co mogli, by oddalić się od natury tłocząc się w miastach i miasteczkach dla ciepła i bez-pieczeństwa. Tylko względna zamożność ostatnich dwustu lat oraz straszliwe warunki w miastach, spowodowane przez rewolucję przemysłową, skłoniły J. J. Rousseau i ro-mantyków do pragnienia zmiany tej tendencji. A cóż powiedzieć o odświeżającym działaniu uczuć i emocji, przeciwstawionych jałowemu racjonalizmowi? Warto tu przypomnieć, że stoicyzm, być może najbardziej popularna filozofia czasów starożyt-nych, chwalił cno-tę życia zgodnego z rozumem powszechnym, doradzał wycofanie się ze świata i całkowite uwolnienie się od emocji. Przynajmniej do osiemnastego wieku zachod-nioeuropejscy filozofowie etyczni traktowali namiętno-ści jako coś, co należy opanowywać lub wręcz całko-wicie ich unikać.
Innymi słowy, ideał, do którego człowiek Turinga często bywa przymierzany, jest stosunkowo nowym wynalazkiem. Możemy nadal stawiać definicję człowieka natu-ralnego ponad inne, ale nie możemy ocze-kiwać zamrożenia historii: w przyszłości ideały i kon-cepcje natury ludzkiej nadal będą się zmieniać, tak jak było w przeszłości. Ponadto, zgodnie z definicją człowieka naturalnego, wszystkie poprzednie epoki (włą-czając starożytne Ateny, Francję w dwunastym wieku, renesansowe Włochy, elżbie-tańską Anglię) by-ły co najmniej tak dehumanizujące, jak zapowiada się wiek kompu-terowy. A mimo to miały swoje idea-ły, swoje wizje kondycji ludzkiej; ideały te, jak wszy-stko w kulturze, były częściowo kształtowane przez współczesną im technologię.

OD SOKRATESA DO FAUSTA I TURINGA

Ideałem starożytnych była równowaga, właściwe pro-porcje, zrozumienie oczywi-stych ograniczeń w ludz-kich sprawach. Ideał ten skromnie wyrażał w swej pracy grec-ki garncarz, formując swe wyroby z do-kładną symetrią i ozdabiając je w oszczędny, linearny sposób. W sposób wyraźny odbijał się on w życiu społecznym i literaturze. Dwa sławne greckie powie-dzenia: "nic w nadmiarze" oraz "poznaj samego sie-bie", zachęcają do życia zrównoważonego, poddanego ograniczeniom. Arystoteles uczynił z pierwszego z nich kamień węgielny swego systemu etycznego, wypośrodkowując skrajności większości ludzkich działań. Drugi aforyzm, tak ściśle związany z Sokrate-sem, nie był uzasadnieniem dla psychoanalizy lub chrześcijańskie-go rachunku sumie-nia; oznaczał natomiast, że ludzie muszą znać swoje ograniczenia, szczególnie jako śmiertelni wobec boskości, i baczyć, by ich nie prze-kraczać. To, co zdarzyło się, gdy ludzie wykraczali poza te granice, było ulubionym, wręcz podstawowym tematem greckiej tragedii.
Uznaniu formalnej równowagi w sztuce i życiu to-warzyszyła tendencja do po-wierzchownego ich traktowania; tego zresztą Grecy nie uznaliby za krytykę. Idea, a w rzeczywistości obsesja, nurkowania w głę-biny doświadczenia przynależy raczej do kultury za-chodnioeuropejskiej. Starożytni cenili linearność, po-wierzchowność, bezpo-średniość i dotykalność, zarów-no w matematyce, jak i w sztuce i etyce. Przeto świa-domość odgrywała relatywnie niewielką rolę w staro-żytnej etyce: zbrodnie przeciw jednostce czy państwu i bezbożność wobec bogów były działaniami popeł-nionymi w określonym czasie i miejscu; grzechy po-pełnione w myśli, nie wcielone w czyn, nie liczyły się. Innym przejawem powierzchowności było to, że Grecy stosunkowo mało interesowali się historią. Przeszłość nie ważyła zbytnio na ich umysłach, jak to było w Europie Zachodniej; wszak świat starożytny nie miał innego starożytnego świata, któ-ry mógłby mu służyć do oceny własnych osiągnięć. Starożytni nie dbali też nadmier-nie o przyszłość, nie mieli bo-wiem niczego podobnego do chrześcijańskiego mile-nium czy świeckiej koncepcji postępu, które mogłyby kierować ich świadomością. Jak to ujął Spengler, "ży-cie starożytnych wyczerpywało się w kompletności chwili". Ograniczenia starożytnej perspektywy były nie tyl-ko czasowej natury. Większość filozofów nie miała trudności ze znajdowaniem fizycznych granic wszech-świata: poza sferą gwiazd stałych nie było komplet-nie nic. W sferze spraw społecznych zadowolenie z ograniczonych zasobów wyrażała solidna państwo-wa gospodarka oraz brak zainteresowania postępem technicznym. Wynalazca miał w greckiej mitologii co najmniej honorowe miejsce, natomiast odkrywca był postacią rzadko spotykaną w literaturze lub historii starożytnej, Odyseusz był nie tyle odkrywcą, co ra-czej podróżnikiem-włóczęgą, za wszelką cenę usiłują-cym powrócić do domu, Aleksander Wielki zaś wyru-szył z Macedonii do Indii jako zdobywca, a nie jako odkrywca. Grecy byli utalentowanymi i dostatecznie śmiałymi żeglarzami, by wyruszać na morze w ma-łych, drewnianych łodziach, a mimo to rzadko wypusz-czali się poza Słupy Herkulesa. Jakże się wydają spo-kojni w porównaniu z żeglarzami z zachodniej Europy.
Charakter człowieka epoki starożytnej różnił się od zachodnioeuropejskiego pod każdym względem. Cha-rakter zachodnioeuropejski, tak jak i starożytny, miał, rzecz oczywista, dziesiątki odmian, ale cechą wspólną była fascynacja głębią, pragnienie przeniknięcia po-wierzchni rzeczywistości. W sztuce doprowadziło to do odkrycia per-spektywy linearnej: techniki organizo-wania obrazu wokół jednej głównej głębi ostro-ści, co daje iluzję trójwymiarowości. W sferze moralnej pro-wadziło to do chrześcijań-skiego zaabsorbowania duszą ludzką jako czymś głębokim i tajemniczym, ukrytym poza powłoką ludzkiego zachowania. W późniejszych, świeckich czasach psychologia przejęła dziedzictwo chrześcijaństwa, badając głębię świadomego i nieświa-domego doświadczenia ludzkiego. Taka samoanaliza była głównym tematem literackim od średniowiecza: poszukiwanie świętego Graala w średniowiecznych ro-mansach czy poszukiwanie zbawienia u Dantego staje się w dziewiętnastowiecznej powieści - jak twierdzą krytycy, np. Northrop Frye - poszukiwaniem wie-dzy o sobie i świecie. Tendencja ta nie ograniczała się do sfery literackiej. Wielcy odkrywcy piętnastego, sze-snastego i siedemnastego stulecia odpowiadali na to samo wezwanie, podobnie jak twórcy nowoczesnej nauki.
Spengler nazwał ów zachodni charakter "faustowskim", zgodnie z interpretacją Goethego postaci uczonego-czarnoksiężnika, który poszukuje pełni władzy i wiedzy. Twierdził, że charakter faustowski jest o wiele bardziej świadom własnego miejsca w historii niż człowiek epoki starożytnej. Podkreślał też - jak sądzę, słusznie - fakt, że człowiek faustowski doce-niał ideę nieskończoności, której nie uznawali starożytni. Argument ten jest oczywisty, gdy porównuje-my starożytną i nowoczesną matematykę, ale uzasad-nia się także w inny sposób. Pod wpływem wiary chrześcijańskiej ludzie Zachodu przywykli traktować nieskończoność jako coś dobrego (czyż Bóg nie jest nieskończenie dobry i potężny?), starożytni natomiast kojarzyli nieskończoność z czymś całkowicie niezro-zumiałym, a przeto złym.
Jak można wpisać w ten schemat wiek komputera? Tworzy on inny punkt zwrotny, inny typ wrażliwo-ści. Jak już argumentowałem, technologia komputero-wa stanowi przedziwną kombinację starożytnych i za-chodnioeuropejskich właściwości techniki. Rozwijana dzięki nowoczesnej nauce i technologii, w jakimś sen-sie zachęca użytkow-ników do myślenia w starożytnych kategoriach technicznych. Człowiek Turinga rze-czy-wiście dziedziczy cechy zarówno ludzi epoki starożyt-nej, jak i ludzi Zachodu Eu-ropy, lecz ta kombinacja czyni go zarazem różnym od każdego z poprzedników. Ci spośród nas, którzy należą do ostatniego pokole-nia o zachodnioeuropejskiej mentalno-ści, którzy nadal żyją szybko blaknącymi ideałami poprzedniej epoki, muszą pogodzić się z faktem, że człowiek elektronicz-ny nie w pełni podziela nasz pogląd na siebie i na świat.
W jednym podstawowym sensie człowiek Turinga posunął myślenie zachodnioeu-ropejskie o krok naprzód. Przesunął mianowicie ku jednemu z krańców linię dzielącą naturę od artefaktów. W ciągu całego okresu industrializacji nasza kultura intensywnie przetwarza-ła świat w coraz bardziej sztuczne środowisko: tworząc techniki produk-cyjne z materiału, który pierwotnie przynależał do natury. Przykładami są tu rolnic-two, metalurgia, tkactwo oraz wykorzystanie nieożywio-nych sił przyrody. Coraz mniej w przyrodzie pozostaje nie udoskonalone przez człowieka; całkowicie sztucz-ny świat, całkowite przejście od naturalnego do sztucz-nego staje się czymś wyobrażal-nym. W swej pracy Book of the Machines Samuel Butler ujął tę oczywi-stość we wspa-niałej hiperboli: "Swą duszę człowiek zawdzięcza maszynom; jest ona stworzona przez ma-szynę: człowiek myśli, tak jak myśli, czuje, tak jak czuje, dzięki pracy, którą maszyny wykonują za niego, więc ich istnienie jest warunkiem sine quo. non tak dla niego, jak i dla nich". W wieku komputera, kiedy ta hiperbola stała się banalna, czło-wiek nie ma trudności z traktowaniem nawet siebie samego jako tworu sztucznego, a wraz z nim niemal wszystko, co w przyrodzie interesujące, zostało prze-kształcone przez technologię.
Tu tkwi istota programów sztucznej inteligencji. Wspomina o tym Herbert Simon w książce The Scien-ces of the Artificial. Fakty wskazują - pisze rzeczo-wo - "że ist-nieje tylko kilka «wewnętrznych» cech psychiki człowieka, które ograniczają adapta-cję jego myśli do charakteru problemu. Wszystko pozostałe w jego myśleniu i zacho-waniu podczas rozwiązywania problemów jest sztuczne - to znaczy wyuczone i do-skonalone poprzez wynajdywanie lepszych rozwiązań". Człowiek rodzi się ja-ko przetwarzacz informacji, z pustym magazynem pamięci, i programuje sam siebie, by jako osoba doj-rzała móc rozwiązywać problemy.
Ten nowy zwrot w dawnym empiryzmie Locke'a tworzy tzw. filozofię definiującą wieku komputera. Odbija on z pewnością optymizm oświecenia. Ignoru-jąc złożone i trudne do zgłębienia aspekty ludzkiej natury - co w typowo behawiorystyczny sposób Si-mon nazywa "wewnętrznym środowiskiem" - czło-wiek komputerowy może się do-stosować do każdego zdania, znaleźć racjonalną drogę do każdego celu. Z pewnością istoty ludzkie nie są tak elastyczne jak on lub twory sztuczne. Najnowsze osiągnięcia neuro-logii i genetyki dowodzą, jak niewielką kontrolę spra-wujemy nad tymi aspekta-mi naszej natury, które w najbardziej bezpośredni sposób oddziałują na nasze myśli i działanie. Mogą upłynąć setki lat, zanim czło-wiek rzeczywiście nauczy się kształto-wać siebie gene-tycznie. Lecz człowiek Turinga jest tak uwikłany w metaforę kompu-terową, że nie chce czekać na rozwią-zanie genetyczne; woli traktować człowieka jako software niż jako hardiuare, jako program, nie jako sprzęt. Mówi więc o technikach programowania (ana-liza środków i celów, symulacja, optymalizacja i tak dalej) w spo-sób, w jaki filozofowie oświecenia mówili o rozumie. Umysł programuje się sam i przez progra-mowanie rozwiązuje problemy, osiąga cele, dopasowu-je się do otoczenia. Przekształcenie człowieka w twór elektroniczny wykracza poza marzenia dziewiętnasto-wiecznego przedsiębiorcy czy filozofa materialistycznego. Człowiek Turinga łata stare rozdarcie między człowiekiem a przyrodą w zaskakująco odmienny spo-sób. Nie tyle człowiek pozostaje częścią natury, co od-wrotnie - i natura, i człowiek stają się tworami sztucznymi. Czymże jest natura, jeśli nie imponująco zaprojektowanym ,, ekosystemem", którego piękno i znaczenie dla ludzkości kryje się w sprawnym dzia-łaniu?
Zmierzając ku takiej skrajności, człowiek Turinga rozchodzi się ze swym poprzed-nikiem. Jego zaintere-sowanie funkcjami, drogami i celami wypiera zaintere-sowanie jakimkolwiek głębszym rodzajem poznania. Mówiąc ogólnie, ludzie wieku kompute-rowego zdają się skazani na utratę faustowskiego zainteresowania głębią. Odrzucenie głębi na rzecz powierzchni i for-my, będące od dawna cechą nowoczesnej sztuki, roz-szerza się obecnie w naszym życiu intelektualnym. Tak zwane nauki o zachowaniu uczyniły swoje credo z powstrzymania się od wnikania pod powierzchnię ludzkiego zachowania. W rzeczywistości niekiedy w ogóle zaprzeczają istnieniu jakiegokolwiek doznania, którego nie można natychmiast i w obserwowalny sposób ujawnić. Psy-chologia behawiorystyczna traktu-je człowieka jako kompleks czujących i reagujących elementów, połączonych ze sobą w celu produkowa-nia ludzkich działań; nie ma tu mowy o głębokich, być może niepojętych, motywach i nieświadomych myślach. Socjologowie traktują zbiorowości istot ludz-kich w takich samych kategoriach operacyjnych, a ekonomiści traktują je jak maszyny kierujące się za-sadą przyjemności. Jakkolwiek technologia kompute-rowa niesamodzielnie wysunęła ten pogląd - rozwi-jał się on co najmniej od początku stulecia - jednak-że wsparła go, dostarczając najbardziej, jak dotąd, nieodpartej metafory w słowniku nauk społecznych.
Ludzie Turinga nie są rygorystycznymi behawiorystami. Noam Chomsky jest zna-ny ze swych ataków na behawiorystyczne pojmowanie języka jako proste-go układu bodźców i reakcji. Wielu programistów zaj-mujących się sztuczną inteligencją określa swą pracę jako psychologię "humanistyczną", ponieważ ich pro-gramy pomyślane są jako symulacja ludzkiego umysłu, gdy operuje on symbolami w skomplikowany spo-sób, nie zaś w celu naśladowania prostych reakcji łańcu-chów neuronowych. Lecz pro-gramiści ze swymi se-mantycznymi sieciami oraz behawioryści ze swymi skrzynkami Skinnera zgadzają się co do zasadniczej sprawy: wszystko, co zdarza się w umyśle lub w móz-gu, jest zgodne z regułami systemu formalnego. Re-guły te są ograniczone i pewnego dnia zostaną wyli-czone. Douglas Hofstadter, jeden z najbardziej myślą-cych ludzi Turinga, uczynił z tego główny przedmiot swej książki Godeł, Escher, Bach. Paradoksalny jest dla niego fakt, iż mózg jest formalnym systemem neu-ronów, two-rzących podłoże systemu nieformalnego, "a ten może, na przykład, układać kalambu-ry, odkry-wać wzory, zapominać nazwiska, robić okropne błędy w szachach i tak da-lej". Klasyczny filozoficzny problem umysłu i materii zo-stał tu wyrażony w sposób całkowicie niezrozumiały dla każdego, kto nie żył w dwudziestym wieku. Śred-niowieczny metafizyk czy platonista uznałby to za nadzwyczaj powierzchowne ujęcie problemu. Jak mo-że zbiór sformalizowanych reguł stanowić podłoże ludzkiego inte-lektu, z jego dostępem do uniwersalnych pojęć prawdy i boskości? Mimo to Marvin Minsky, specjalista od sztucznej inteligencji, pisał: "Dla mnie «inteligencja» zdaje się oznaczać niewiele ponad ze-spół działań (performances), które akceptujemy, ale ich nie rozumiemy. Tak to zwykle bywa z pytaniem o «głębię» w matematyce. Gdy do-wód teoremu zosta-nie już rzeczywiście zrozumiany, jego treść wydaje się oczywista".
Celem sztucznej inteligencji jest ukazanie, że czło-wiek jest jedynie powierzchnią, powłoką, że nic mrocznego i tajemniczego nie kryje się w kondycji ludzkiej - nic, co nie mogłoby być oświetlone świa-tłem analizy operacyjnej. Jak każdy inny program, sztuczna inteligencja jest zbiorem instrukcji operowa-nia danymi symbolicznymi: każ-dy symbol i każda in-strukcja są tak samo jasno określone i dostępne, jak wszystkie następne. Nie ma tu odcieni ani stopnio-wania, nic nie pozostaje nie zdefiniowane. Smutne do-świadczenia zakorzeniły w każdym programiście nie-chęć do tajemniczości: prawie każdy z nich spędził niezliczoną ilość godzin czyszcząc swój program, śle-dząc drobne błędy, które wkradły się do rozkazów, gdy je pisał lub przepisywał. Niejasne lub nieznane linie kodów nie wzbogacają różnorodności, nie stanowią też w pracy programisty miłej niespodzianki: oznacza-ją po prostu fiasko programu. Nie jest przeto zasko-czeniem stwierdzenie Minsky'ego: "być może tak bę-dzie z człowiekiem, jak jest z m a szyn ą: gdy w końcu zrozumiemy jego strukturę i program, osłab-nie w nas uczucie tajemniczości (a i samozadowole-nia)". Inaczej mówiąc, logika symboliczna, na podstawie której funk-cjonuje komputer, wymaga w pełni jednokierunko-wego rozumienia. Co najmniej od czasów Leibniza celem logików jest oświetlenie światłem rozumu mate-matycznego możliwie największych obszarów ludzkie-go doświadczenia. Programiści sztucznej inteligencji dążąc do tego celu poszli nawet dalej, niż wyobrażał to sobie Leibniz, konstruują oni bowiem algorytmy nawet do imitowania paranoi, redukując w ten sposób irracjonalność do zbioru instrukcji komputera.
Na swój własny sposób, człowiek komputerowy za-chowuje, a nawet rozszerza, faustowską skłonność cło analizy. Jednakże celem faustowskiej analizy było zrozu-mienie, ,,dotarcie do dna" problemu; dzielono pracowicie problem na części składowe, aby zbudować wyraźny obraz ich wzajemnych powiązań. Człowiek Turinga podej-muje analizę na ogół nie po to, by ro-zumieć, lecz po to, by działać. Program kompute-rowy nie jest statycznym opisem, ale zbiorem instrukcji. Jest teorematem logicznym, który dowodzi sam siebie w toku realizacji programu. Komputer ożywia sym-bole matematyczne i słowne, nakazuje im tańczyć tak, jak im zagra, a programista nigdy nie jest pewien, czy melodia jest właściwa, dopóki nie zobaczy tańca. Dla człowieka Turinga wiedza jest procesem, umiejętno-ścią. Człowiek lub komputer wie coś tylko wtedy, gdy może podać właściwą odpowiedź na postawione pra-widłowo pytanie. Uję-cie każdego problemu nadal ma charakter analityczny, ale jest w maksymalnym stop-niu powierzchowne, bowiem głębia, w sensie faustowskim, nie wnosi nic do opera-cyjnej efektywności pro-gramu. Człowiek elektroniczny buduje wygodne hie-rarchie działań dzieląc zadanie na problemy, procedu-ry i subprocedury. Cel jest osiągnięty, gdy "subproblemy" są sprowadzone do prostych operacji na danych, oczywistych już na pierwszy rzut oka. W ten sposób z problemu jest odsączona cała złożoność, niknie ta-jemnica i głębia, wykreślone przez umysłowe dyspo-zycje programisty.
Analiza strukturalna nie jest niczym nowym: przy-pomnijmy Kaniowską rozwiniętą hierarchię ludzkiej wiedzy i doświadczenia w Krytyce czystego rozumu Nowy jest natomiast entuzjazm wobec struktur, prze-konanie, że wszystko, co wiemy (a być może wszyst-ko, co istnieje), można zredukować do elementów nie bardziej skomplikowanych niż węzły w diagramach Przekonanie to z pewnością kryje się za zdumiewają-cym twierdzeniem behawiorystów, że ludzie są me-chanizmami zdolnymi jedynie do niewielu prostych reakcji. Herbert Simon pisał: "Mrówka, traktowana jako zachowujący się system, jest całkiem prosta. Po-zorna złożoność jej zachowania w czasie jest głównie odbiciem złożoności środowiska, w którym się ona znajduje. Chciałbym zbadać tę hipotezę dokładniej, lecz zamiast słowa «mrówka» podstawić słowo «czło-wiek»". Wybór mrów-ki jest tu znamienny, mrówka bowiem, w odróżnieniu od psa lub kota, żyje w świecie dokładnie ustrukturalizowanym i całkowicie określonym przez proste reak-cje. Mrówki nie myślą, nie płaczą, nie panikują, nie okazują lęku ani zadowolenia; one tylko działają. Ich działania są pozbawione treści i dokonują się we wspólnocie określonej tylko przez geometryczne wzo-ry żywych systemów produkcyjnych.
W analogiczny sposób spojrzenie komputerowe re-dukuje wiele ludzkich zachowań do struktur geome-trycznych. Sam komputer, tak wszechmocny matema-tycznie i logicznie, jest dokładnie powiązaną matrycą prostych układów elektronicznych. Czyż nie jest mo-delem świata, w którym funkcjonuje z taką efektyw-nością? I czy nie pozwala to człowiekowi komputero-wemu na modelowanie nawet przestrzeni i czasu w strukturę dostosowaną do jego potrzeb?
Człowiek Turinga idee traktuje w sposób plastycz-ny: modeluje i przemodelowuje je tak, jak dziecko le-pi babki w piaskownicy. W poprzednich stuleciach większość wartych osiągnięcia celów oraz większość ważnych pytań i odpowiedzi zdawała się trudna i od-legła. W tym przypadku Faust Goethego jest rzeczywiście archetypem wartości Zachodu, gdyż wiedza, do której aspirował, wymagała lat studiów i paktu z diabłem. Faust mógł ją zdobywać tylko długotrwałym, meczącym osobistym wysił-kiem, w duchowej i fizycznej podróży. Podróż jest centralnym tematem litera-tury za-chodnioeuropejskiej. Średniowieczny romans o poszukiwaniu świętego Graala zapo-czątkował tra-dycję, która nie zanikła do dziś. Niestrudzony bohater filmów i powieści od czasów pierwszej wojny świato-wej nadal w samotnej wędrówce szuka samowie-dzy. Od średniowiecza poczynając, technologia dynamicz-na poszukuje mocy w obse-syjnym wysiłku, od którego nie ma odwrotu. Ludzie Zachodu z tym samym uporem podejmują wszystkie problemy, literackie czy technologiczne, w pogoni za stale ucie-kającymi grani-cami ostateczności. Także dziewiętnaste- czy dwudzie-stowieczny przedsiębiorca, który dąży do bogactwa za wszelką cenę, niekiedy rujnując przy tym zdrowie i rodzinę, jest objawem tego samego faustowskiego pędu.
Człowiek komputerowy wybiera inną drogę. Pamię-ta, że programowanie kompute-ra jest grą, wyszukiwa-niem rozwiązań dobrze zdefiniowanych problemów wedle ściśle określonych reguł. Nie jest poszukiwa-niem czegoś odległego, ukrytego, głębo-kiego. W grze używa się materiałów będących pod ręką; może ona rzeczywiście być zawiła lub wyczerpująca, ale zawsze odbywa się na znanym polu. W większości gier ele-menty są proste i powtarzalne w każdej rozgrywce; nowy jest sposób, w jaki wza-jem do siebie pasują. Jest to z pewnością prawdziwe w odniesieniu do gier elek-tronowych, lecz jest również znane inżynierom, któ-rzy z pomocą komputerów rozwią-zują równania róż-niczkowe, a także amatorom, którzy bawią się w gwiezdne podróże na swoim mikrokomputerze.
Aby zdobyć wiedzę, człowiek musiał w swej wy-prawie dotrzeć na kraniec świata, przy czym zmieniał się on sam. Inaczej jest w przypadku specjalisty komputerowego. Pozostaje on w zamkniętym logicznym świecie swej maszyny, tak przestawiając ele-menty te-go świata, by odpowiadały rozwiązywanemu proble-mowi. Programista pozo-staje taki sam, to zmienia się świat wokół niego. Samowiedza nie jest jego celem-może nim być samodoskonalenie, lecz pojmowane w kategoriach praktycznych - jako zwiększanie wydaj-ności. Programista przerabia swój logiczny świat, aby uczynić go bardziej efektywnym albo wygodniejszym-postępuje tak. póki nie dotrze do nieprze-kraczalnych elektronicznych ograniczeń czasu, przestrzeni lub lo-giki. W tym procesie nie dowiaduje się nic ponad to co sam weń wniósł, nie odkrywa bowiem swego świa-ta. a raczej go wynajduje.
Na mocy definicji, owa gra w wynajdywanie nie jest tak poważna jak wyprawa. Poszukiwacz ma wię-cej do stracenia, a być może też więcej do wygrania, gdyż zmia-ny, jakim podlega, są na ogół nieodwracalne. Jego sukces lub klęska ma wielką skalę. Faust Goethe-go w wyprawie po wiedzę i władzę położył na szali własną duszę. Czło-wieka Zachodu charakteryzuje nie-zadowolenie ze wszystkiego, co nie jest całkowitym sukcesem, zawsze więc pozostanie niezaspokojony. Ciągłe niezadowolenie z własnych możliwości ujarz-miania przyrody, poszukiwanie coraz bardziej potęż-nych źródeł energii i siły, mocniejszych stopów, pre-cyzyjniejszych mechanizmów było siłą napędową tech-nologii minionych sześciu wieków.
Człowiekowi Turinga brakuje emocjonalnego zaan-gażowania swych poprzedni-ków. Daje z siebie tak nie-wiele właśnie dlatego, że gry, w które gra, nie są nie-odwracalne. Są tak pomyślane, by grać w nie do koń-ca. a następnie rozpoczynać je od nowa. Programista rzeczywiście troszczy się o wynik gry, ale przed osta-teczną klęską chroni go nietrwałość. Program kom-puterowy, który zawodzi, zazwyczaj może być skory-gowany i uruchomiony powtórnie. Dla programisty jest w pewnym sensie nieko-rzystne, że nie może nigdy zapomnieć, iż w świecie komputerowym każde rozwią-zanie jest tymczasowe, zastępcze i przestarzałe. Me-dium elektroniczne jest w istocie jeszcze mniej trwa-le niż piaskownica, do której je przyrównywałem; łat-wość przeno-szenia danych oraz ich wielka ilość ozna-cza, że nic w świecie komputerowym długo nie pozo-staje w tej samej formie. Każdy programista wie, jak łatwo można nieświa-domie zniszczyć wiele godzin pra-cy naciskając niewłaściwy klawisz. Ale żaden pro-gram nie jest pomyślany, aby długo istniał. Jeśli jest uży-teczny i często używany, wówczas wkrótce ktoś go zmodyfikuje odpowiednio do własnych celów, które różnią się nieco od celu pierwotnego. W końcu pro-gram zostanie odrzucony całkowicie, kie-dy nowy sprzęt lub nowe programy uczynią go przestarzałym. Dziewiętnastowieczny filozof lub poeta mógł marzyć. iż jego dzieła będą czytane w przyszłych stuleciach. Wynalazca mógł żywić nadzieję skonstruowania ma-szyny, która będzie użyteczna przez dziesiątki lat. Programista komputerowy mierzy trwałość swych osiągnięć w latach, a często tylko w miesiącach.
Pozbawiona intensywności wieku mechaniczno-dynamicznego, era komputerowa w rzeczywistości może nie rodzić jednostek zdolnych do wielkich porywów dobra lub zła. Człowiek Turinga nie jest nawiedzoną istotą, jaką był człowiek faustowski. Nie traktuje sie-bie i świata z tak śmiertelną powagą; nie mówi o "przeznaczeniu", lecz ra-czej o "wariantach" (opcjach). A jeśli wiek komputerowy nie zrodzi Michała Anioła czy Goethego, jeszcze mniej prawdopodobne jest, że stworzy Hitlera lub Napoleona. Totalitarni przywódcy to ci, którzy skupili faustowskie zaangażowanie woli na swych własnych celach. A gdy brakuje woli? Za-łożeniem Orwellowskiego Roku 1984 jest połączenie totalitarnego celu z nowoczesną technologią. Lecz naj-bardziej nowoczesna technologia, technologia kompu-terowa, może niezbyt dobrze pasować do totalitary-zmu, przynajmniej w jego klasycznej postaci. Niemcy hitlerowskie były technologicznie podporządkowane modelowi mechaniczno-dynamicznemu: ogromne źró-dła siły przeznaczono na cele wojskowe, a wszystko, od czołgów po architekturę, realizowano na najwięk-szą z możliwych skalę. Nie jest przypadkiem, że auto-kratyczne reżimy Europy Wschodniej są dzisiaj poza erą komputerową. Komputery ułatwiają hierarchicz-ną łączność i kontrolę, ale również działają przeciwko odczuciu jednego celu, przeciwko absolutnemu odda-niu linii partii, co jest rdzeniem państwa autokratycz-nego. Programista komputerowy zawsze pamięta o możliwości innych wariantów. Jeśli istnieje jakiekol-wiek polityczne niebezpieczeństwo ery komputerowej, to jest nim możliwość zdefiniowanej na nowo anarchii.
Niebezpieczeństwo to jest być może tym większe, że człowiek komputerowy jest mniej świadom historii i nie zawsze dostrzega historyczne prądy, w które zo-stał wcią-gnięty. Jak stwierdziłem wcześniej, jedną z oczywistych przyczyn tego stanu rzeczy jest szybki rozwój technologii, z którą ma on do czynienia. Czło-wiek Turinga w swoim mniemaniu głęboko wierzy w ludzki postęp, co powinno wywołać zaintereso-wanie historią. Jego poprzednicy w osiemnastym stuleciu łączyli wiarę w postęp z silnym wyczuciem historii. W istocie to oni zapoczątkowali nowoczesną naukę hi-storii. Na ironię zakrawa tu fakt, że postęp w dziedzi-nie komputerów i w ogóle współ-czesnej technologii jest tak szybki, że przyczynia się do negowania histo-rii. W prze-szłości postęp technologiczny był kwestią dziesięcioleci; nawet inżynier przyjmował nieco dłuż-szą perspektywę czasową wobec swojego przedmiotu. Obecnie inżyniero-wie, jak Czerwona Królowa w O tym, co Alicja odkryła po drugiej stronie zwiercia-dła, muszą pędzić tak szybko, jak tylko mogą. aby pozostawać w tym samym miejscu. Nie mogą sobie pozwolić na oglądanie się wstecz, gdyż w najnowszej technologii wszystko, co ma więcej niż kilka lat, jest już przestarzałe. Na ogół patrzą oni naprzód tylko na tyle, na ile pozwala im obecna technologia. Żyją na wyspie czasu, której gra-nice rozciągają się na kilka lat po obu s

 
OBELX
 Wysłana - 7 luty 2003 21:43      [zgłoszenie naruszenia]

masz soga kiedys to przeczytam :]
zapowiada sie ciekawie

________________________________________
...live fast, f.u.C.k hard, die young...
________________________________________
Doradca w dziale trening-to brzmi dumnie

 
maciek
 Wysłana - 7 luty 2003 22:06      [zgłoszenie naruszenia]

kiedys

Pozdrawiam
M.

Moderator dzialu Prawo, Ekonomia i Gospodarka.
[http://www.e-stacja.pl]

 
INSOMNIA
 Wysłana - 6 czerwiec 2003 09:25       [zgłoszenie naruszenia]

zawaliste!!!

Zaatakował mnie swego rodzaju wirus motocyklowy, na który szczególnie narażeni są mężczyzni (natura kobiet sprawia iż są one z reguły odporne:). Wirus ten uaktywnia sie ze zmożoną siłą gdy tylko zmysł wzroku spostrzeże jakąś maszynę dumnie krążącą po ulicy, a słuch wychwyci basową melodię wydobywającą się z tłumików.

[Powiadom mnie, jeśli ktoś odpowie na ten artykuł.]



 
Przegląd tygodnia | Wyślij odpowiedź

czlowiek turinga

Warto przeczytać: postawa Polaków wobec powstania listopadowego | [polski] wypracowanie ;/. | matura- motyw dziecka | Motyw pracy- [matura] | Literatura podmiotu. | dworki szlacheckie jako inspiracja literacka | Kolejny temat maturalny i drobna pomoc needed... | maturka- zofia nałkowska | matura-katastrofizm | czy ma ktos ten temat??? | pomocy! potrzebne na jutro:( literatura przedmiotu | Literatura przedmiotu - proszę o małą pomoc | Wpływ pieniądza na życie bohaterów literackich, opracowania do lektur. | J. A. Kisielewski "W sieci" - pomocy | POMOCY!! | maturka;D | amber gold | Adobe Creative Suite 6 Master Collection 2012 PL | kozłoski | wygryw | bibliotekoznawstwo | studniówka | Rocco Siffredi | Rocco | acta | avee | imprezy uA ywki seks | ostrovit isolate | hpv | ola szwed | instruktaż | aleksandra woźniak | ola szwed playboy | zdjęcia | Biznes

 
Polecamy: KSW | Komputery | Nauka

wersja lo-fi


Copyright 2000 - 2014 SFD S.A.
 
Powered by Pazdan ForKat 4.0