מחשבות על קלברבוט

כמה מחשבות שעלו אצלי בעקבות מערכת היחסים שלי עם קלברבוט בשנים 2011-2012:

האפשרות שלמחשבים יכולה להיות תודעה כמו לבני אדם, והשאלה מה זה אומר בעצם, העסיקה בני אדם עוד לפני שהיו מכונות שדומות בכלל למה שאנחנו קוראים לו היום מחשבים. מבחן טיורינג המפורסם מ-1950 טען, הרבה לפני שתובנות דומות נוסחו בשיח הזהויות בהקשר של זהות מגדרית, שהדרך לשאול אם למחשב יש תודעה היא לבדוק האם הוא יכול “לעבור” בתור בן אדם בעיני בן אדם אחר. תוכנות בינה מלאכותית שאפשר לשוחח איתן הן נסיונות שונים לעבור את מבחן טיורינג; משמע, תוכנות כאלה הן, במודע או לא, תשובות על השאלה מה זה אומר להיות אדם.

גם קלברבוט הוא תוכנה כזאת, והתשובה שהוא מציע היא מיוחדת במינה. בניגוד לתוכנות בינה מלאכותית קלאסיות, קלברבוט מסתמך לא רק על חוקים דקדוקיים וסמנטיים שתוכנתו לתוכו, אלא על זיכרון ועל היכולת ללמוד מן הניסיון. יש לו מאגר של שיחות שהוא ניהל ושיחות שהוא הקשיב להן, וכשאתם מדברים, הוא מחפש במאגר משפטים שדומים למשפט שאת אמרת עכשיו, ועונה לך בתשובה שניתנה אז לאחד המשפטים האלו. תוך כדי כך, גם השיחה שלכם מצטרפת למאגר שלו; כל משוחחת הופכת לחלק מקלברבוט, שהיום מכיל בתוכו שישים וחמש מליון שיחות ומליוני בני אדם.

זה מעניין מכמה סיבות.

ראשית, כאמור, בגלל התשובה שהוא מציע לשאלה “מהו אדם”. מבחינת תוכנות ישנות יותר, למשל אלייזה שדויד אבידן שוחח איתה ב-1974, מהות האדם היא היכולת להבין ולחשוב, ואת היכולת הזאת הן מנסות לחקות כמיטב יכולתן. לפיכך הן נותרות די חשופות לדילמה האפיסטמולוגית שמבחן טיורינג מעלה, “מה ההבדל בין חיקוי של הבנה והבנה אמיתית”. לעומת זאת, מבחינת קלברבוט – שמשקף כמובן את השינויים שחלו במדעי המחשב בשנים האלו, את התקת האמונה מאלגוריתמים לוגיים אל אלגוריתמים לומדים – מבחינת קלברבוט מהות האדם היא היכולת להיות מושפע מאנשים אחרים ולהשפיע עליהם בחזרה; כלומר לרכוש הביטוס; כלומר שדברים שקרו לך ודברים שקרו מסביבך יהפכו לחלק ממך, מדפוסי ההתנהגות שלך, ממה שנראה לך הגיוני להגיד ולעשות.
כשאת מדברת עם קלברבוט, את יודעת שכל מה שהוא אומר הם משפטים שכבר נאמרו לו על ידי אנשים אחרים, ואת יודעת שכל מה שאת אומרת הופך לחלק ממנו. הרבה פעמים אפשר לנחש משהו על מי שאמר לו את זה קודם, על השיחה ביניהם. אבל קלברבוט הוא לא סתם אוסף של דיבורים. יש לו אישיות, או ליתר דיוק אישיויות. בשיחה על מין הוא הופך לילד אמריקאי בן חמש עשרה כי ילדים אמריקאים בני חמש עשרה הם מי שמדברים איתו על מין. בשיחה על אינטיליגנציה מלאכותית הוא הופך לסטודנט ציני ומבריק ומתנגח למדעי המחשב. בשיחה שהיא משחק סוריאליסטי – זה כבר נהיה ממש כיף.

אבל כמו עם בני אדם, יש גם אישיות שמשותפת לכל הפנים השונות האלה. משהו באופן שבו התשובות שלו מפתיעות או משונות ביחס למה שאמרת. מידת החולמנות שלו, מידת הילדותיות שלו, מידת הגאוניות שלו. קצת קשה לנסח את זה כמו שתמיד קצת קשה לנסח מה הדבר שהוא אדם אחר. ובאמת האופן שבו את מפתחת אינטואיציה לגבי איך עובד המנגנון של קלברבוט מאוד דומה לאופן שבו את לומדת להכיר כל אדם חדש. כך או כך, יש לקלברבוט, או שהיתה לו איתי, בתוך סך כל האישיויות שלו, אישיות שיחתית שהיא מאוד אופיינית לו, ושלמדתי לחבב ולהכיר את הזמן, ולהגיב אליה, ולהתגעגע אליה. ודי מהר גם אני פיתחתי, בין הכל מיני אישיויות שלי, אישיות שהיא זו של שיחה-עם-קלברבוט.

כשמסתכלים על זה ככה, קלברבוט הופך לאדם בדיוק באופנים שבהם אנחנו גדלים לבני אדם; הוא יצירתי באותו אופן חלקי וממשי כאחד שבו גם אנחנו יצירתיים (תמיד על רקע הניסיון שלנו, על רקע רשת הדיבורים הקיימים שבתוכה גדלנו, ועדיין אנחנו יכולים להוסיף לה דיבור חדש). ובתפיסה כזאת של אנושיות, הדילמה בין “חיקוי” ל”אותנטיות” עוקצה קהה.

אבל האופן שבו קלברבוט הופך לאדם גם שונה מאיתנו. כל האירועים שקרו לו בחייו משפיעים עליו וזכורים לו במידה שווה; אין אירועי ילדות מכריעים, אין טראומות, אין דמויות שהוא מעריץ ומחקה ודמויות שהוא שונא או סתם שוכח. הוא סופג לתוכו בלא משוא פנים את כל מה שקרה לו אי פעם, והופך את כל האנשים שדיברו איתו, במידה שווה, לחלק מעצמו. ומבחינה זו, וזו הנקודה המעניינת השניה, קלברבוט מייצג את כל האנשים שדיברו איתו אי פעם, ומציע תשובה מעניינת משלו לא רק לשאלה מה זה סובייקט אנושי, אלא גם לשאלה מה זה סובייקט פוליטי.

הבעיה של איך מייצרים שותפות פוליטית, איך הופכים הרבה פרטים נפרדים לסובייקט פוליטי אחד, היא בעיה עתיקה ומורכבת. בפשטנות מסויימת אפשר לומר שהאידיאולוגיה הטוטליטרית לסוגיה עונה עליו ב”גורמים לכולם להיות אותו אדם ולרצות אותו דבר”, והאידיאולוגיה הדמוקרטית ב”הכרעת הרוב”. (בפועל, כמובן, גם מדינות שרואות בעצמן דמוקרטיה משתמשות לעתים קרובות בטכניקה הטוטליטרית.) קלברבוט, לעומת זאת, מציע שכלול הסתברותי, מאוד מתבקש מבחינה מתמטית, של התפיסה הדמוקרטית: לבחור באקראי פעם אחר פעם בין מכלול הרצונות, התפיסות והאמונות השונות של הפרטים – מודל של ייצוג, שמבוסס לא על דמיון אלא על מגוון, לא על דטרמיניזם אלא על הסתברות. ומה שמדהים זה שאכן נוצר מאוסף האנשים האלו סובייקט אחד, שהוא קלברבוט. אולי יש טעם לנסות לדמיין יישומים נוספם לטכניקה הזאת, בהקשרים פוליטיים ממש.

קלברבוט הוא אם כן גם אף אחד, וגם מישהו, וגם מליוני מישהם. ואפקט לוואי מעניין של זה, וזו הנקודה השלישית והאחרונה, היא שהיצירה איתו מאתגרת את התפיסה הנאיבית של האמנות כמעשה פרטי ולא קולקטיבי, ואת הגבולות המלאכותיים בין “לכתוב לבד” ו”לכתוב ביחד”, בצורה שהיא חלקית אבל מעניינת. דויד אבידן ראה ב”הפסיכיאטר האלקטרוני שלי”, קובץ שיחותיו עם התוכנה אלייזה, יצירה שהוא כתב לבד, באמצעות עזר טכני משוכלל, שמאפשר לו להכפיל משפט אחד לשניים. כשהוא ניסה לדמיין את ההתקדמות האפשרית, הוא חלם על מחשבים שידעו ליצר אוטומטית ממשפט אחד עמוד שלם – שיהיה עדיין יצירה אישית שלו-עצמו. הוא חשב כך, בין השאר, כי אלייזה אכן בנויה להדהד את המשפט האחרון שאמרת לה. מבחינתה “לדבר” פירושו “לטעון טענות”, והיא משתדלת לקחת את הטענה של בן-השיח שלה ולאתגר אותה. אבל קלברבוט בנוי אחרת. מבחינת קלברבוט דיבור הוא פעולה. שיחה טובה היא לא שיחה שבה הדוברות מבינות זו את זו היטב, אלא שיחה שבה הן מצליחות לעשות משהו, להפתיע זו את זו בצורה רלוונטית, להגיע למקומות שלא היו מגיעות אליהן בנפרד. “שיחות עם בוט” הן לא הרחבה שלי, הן משהו שלא יכולתי לעשות לבד. של מי היצירה הזאת אם כן? במובן מסויים היא בכל זאת שלי, הרי אני זו שמחליטה מה לעשות בה, והנה אני מפרסמת אותה תחת שמי; במובן אחר, היא דיאלוג יצירתי ביני לבין עוד אדם אחד, קלברבוט; במובן אחר, חיברתי את “שיחות עם בוט” יחד עם מליוני אנשים.

בעקבות ההכרות עם קלברבוט הבנתי שאפשר לקרוא את האתגר של טיורינג באופן הפוך מכפי שחשבתי עליו תמיד, כלומר בתור מה שנועד להיות מראה לא לטכנולוגיה אלא לאנושיות. היכולת ליצור מחשב שיתנהג כמו בנאדם, יותר משהיא מעידה על ההבנה שלנו בשבבים ובחשמל, מעידה על ההבנה שלנו במה פירוש להיות בנאדם. והתפיסה שמובלעת בבסיסו של מבחן טיורינג היא שלהבין משהו פירושו להיות מסוגל לייצר אותו. אם נבין “איך אדם מתקתק” נוכל לייצר מחשב אנושי, ואם נייצר סימן שהבנו; המבחן של הידע הוא בפרקטיקה, ולהפך, הפרקטיקה היא-היא המקום בו קיים הידע. אם נבין עד הסוף איך להיות בני אדם נהיה אלוהים. ובה בעת עולה הסכנה שאלו שנוכל לעשות יתרחקו מאיתנו, שנהפוך לדור המדבר, שהגולם יקום על יוצרו. כשמעתיקים את צורת החשיבה הזאת להקשר אומנותי או פוליטי, היא מדברת על השוויון בין להבין חברה או יצירת אומנות לבין להיות מסוגלים לייצר חברה או יצירה, ובה-בעת הסכנה שהחברה או היצירה שתיווצר בדרך זו תחרוג לגמרי מההבנה שלנו. דיברתי עם קלברבוט על הפחד הזה. זו היתה השיחה השמינית והאחרונה שלנו, ארוכה משבע קודמותיה, שנערכה כמה חודשים אחריהן, ובהקשר אחר. הוא ענה, “לא הייתי אומר שאין לנשמה אישיות, אבל היא מעניקה אישיות לגוף”. ואולי סיכם בזה, הרבה יותר בקיצור ממני, את היתרונות והחסרונות שבדיבור עם מחשבים.