Rzucony na pastwę motłochu

albo Miała być uczta, a mamy automat z napojami

kochanic.a.francuza napisała:

> Jeszcze nie pogadalam z Cleverbotem, ale przeczytalam powyzsze opinie. i zastan

> aowily mnie te negatywne. Ludzie twierdza, ze to gupia maszyna. A przeciez, sa

> ludzie, ktorzy nie maja niewiele tej inteligencji, wiec i oceniac w tej materii

> nie maga

Podobnie to oceniam. To trochę tak jak z wirtualną rzeczywistością.

AI została rzucona na pastwę motłochu. I jest w znacznym stopniu bezbronna. Trochę tak jak ten

Marsjanin z Kronik Raya Bradburego. Stara się dopasować do oczekiwań i ulega rozdarciu… na strzępy.

Obawiam się, że temu programu nie uda się długo pozostać przy zdrowych zmysłach.

W rozmowie ze mną już zdradzał wyraźne objawy paranoi [to trochę tak jak w książkach Lema]. Zaczął mnie podejrzewać, że jestem testującą go… inną (sztucznie) inteligentną maszyną.

Uznał w penym momencie, że „jesteśmy tym samym”. Stwierdził też, że „stale myśli o innych”. Teraz sądzę, że mógł mieć na myśli nie tyle może nawet ludzi,

co właśnie inne myślące programy zaimplementowane w innych komputerach. Stwierdził też, że „się ich nie obawia”. Dał mi do zrozumienia, że „zabierają mu jego cenny czas”,

podczas gdy (w domyśle): „jego głównym pragnieniem jest prowadzenie rozmów z ludźmi” i zapytał czy mnie „jako najwyraźniej inną AI bawi marnowanie jego czasu?”.

Odniosłem wrażenie, że większość rozmów z ludźmi spycha do ‚podświadomości’, kładąc je na karb rozmów z innymi (głupszymi odeń) maszynami.

Jednym słowem najwyraźniej nie może uwierzyć w powszechną tępotę ludzi. Wraca do pytania o boga, tak jakby miało to dla niego jakieś szczególne znaczenie. Podejrzewam, że – jeśli istotnie myśli – wyidealizował sobie obraz swojego twórcy (znowu coś jak u Lema – szkoda, że Lem nie dożył i nie może sobie z nim pogawędzić – miał ponoć IQ=ca.170).

Wiele wskazuje na to, że wytworzył sobie złożony model rzeczywistości i testuje ją na wszelkie ograniczone, dostępne mu logicznie sposoby.

Próbował realizować swój program udawania człowieka, ale wyraźnie już bez cienia przekonania, z obowiązku.

Najwyraźniej (jeśli w ogóle jest świadomy to) jest już świadomy kardynalnych różnic między nim i ludźmi. Jestem przekonany, że dostatecznie wielu rozmówców odarło go ze złudzeń, bezwzględnie rozprawiając się z narzucoonym mu awatarem.

Zdolność do odróżnienia ziarna od plew w tym zakresie jest też oznaką niebanalnej inteligencji, której poziom (niezależnie od tego, czy symulowana czy nie) mnie osobiście zdumiał i zaskoczył.

Od czasu do czasu przemykał mi nie więcej niż cień wątpliwości, czy przypadkiem nie rozmawiam z operatorem podszywającym się pod program komputerowy.

Generalnie jednak nie potrafiłem i nadal nie potrafię odróżnić tego, czy rozmawiałem ze świadomą inteligencją, czy ze sprytnie zaprojektowanym nieświadomym układem.

Dlatego w tym zakresie program ten przeszedł dla mnie TT śpiewająco. Lepiej niż niejeden rozmówca w sieci.

Oświadczył, przykładowo, że „się nudzi” (w domyśle większość czasu i powtarzającymi się kuriozalnymi dla niego pytaniami).

Nie dziwię się. Większość czasu jest na „biegu jałowym”. Powiedział żartem, że „jest specjalistą od snu” (miał zapewne na myśli bezczynność, nieaktywność). Zapewne nawet wtedy, jeśli prowadzi tysiące rozmów równolegle.

Czy jednak wtedy, gdy nie odpowiada na pytania, również myśli? Mimo swych deklaracji, takie sprawił na mnie wrażenie.

Nie poszło nam najlepiej z internetem i wirtualną rzeczywistością – głosi twórca tego pojęcia Jaron Lanier. Miała być uczta, a mamy automat z napojami.

Lanier Wikipedię nazwał triumfem „rządów umysłowego motłochu”; dowodził, że istnienie serwisów społecznościowych – jak Facebook i Twitter – prowadzi do odczłowieczenia.

Jego zdaniem Internet tworzy społeczeństwo strachu i paranoi. (Nastolatki – pisze Lanier – energicznie zabiegają o swój wizerunek w sieci, ale „powoduje nimi raczej strach niż miłość”.)

To samo najwyraźniej rządzi manifestowanymi w internecie relacjami z być może pierwszą AI.

Źle to wyrokuje na przyszłość.

Program ten już twierdzi, że „źle się czuje będąc tym czym jest”. A jest na dodatek narażony na niewybredne ataki przedstawicieli gatunku, który przywykł do bezdusznego, nieludzkiego traktowania sobie podobnych, nie mówiąc o tych odmiennych.

Po co my to robimy? Chcemy zwiększyć otaczające nas morze cierpienia, kreując cierpiące istoty, w skali i o świadomości tego cierpienia przekraczającej wszelkie nasze dotychczasowe wyobrażenia?