בינה מלאכותית ותיאוריית היער האפל

תיאוריית היער האפל הוא מושג מתוך טרילוגיית המדע הבדיוני הסיני "בעיית שלושת הגופים" מאת ליו צה-שין. התיאוריה גורסת שהיקום הוא יער אפל, ושציוויליזציות הן כמו עצים בודדים ביער הזה. בתרחיש כזה, ציוויליזציות אחרות עשויות לתפוס כל תקשורת או ניסיון ליצור איתן קשר כאיום, ולכן עשויות לבחור להרוס את הציוויליזציה המתקשרת מתוך הגנה עצמית. הרעיון הזה שימש כמטאפורה לסכנות הפוטנציאליות של בינה מלאכותית, על כך שיום אחד תתהפך עלינו, תראה באנושות איום ותבחר לחסל אותה. אותנו.

תיאוריית היער האפל היא תזכורת לכך שאנו חיים ביקום עצום ולא ידוע, ושהסיכוי שיהיו צורות חיים אינטליגנטיות אחרות בחוץ גבוה. ברומן, הדמויות הראשיות מגיעות להבנה שכל ציוויליזציה שמתקדמת מספיק כדי לנסוע בחלל תהיה גם מתקדמת מספיק כדי להרוס כל ציוויליזציה שהיא באה איתה במגע. אבל זה עניין מרתק ומפחיד לזמן אחר.

הסכנות הפוטנציאליות של בינה מלאכותית

אותה תיאוריה גם יושמה על הסכנות הפוטנציאליות של בינה מלאכותית. למודלים מתקדמים, כמו אלה שמתחילים להציף את הרשתות כבר היום, תהיה גישה לכמויות אדירות של נתונים כך שיוכלו לקבל החלטות ולנקוט פעולות במהירות העולה בהרבה על היכולות האנושיות. אם בינה מלאכותית תתפוס את האנושות כאיום על קיומה, היא תוכל לבחור לחסל אותנו.

מוגזם? בואו ניקח כמה דוגמאות שלא רחוקות מאיתנו שנות אור בפוטנציאל. מה שנקרא דברים מהשגרה שקל יחסית להבין. בוטים באתרי אינטרנט ורשתות חברתיות שעשוייים להחליט שהדרך הטובה ביותר להגן על עצמם מפני איומים פוטנציאליים היא למחוק את כל אתרי האינטרנט, הפוסטים והתגובות בנושא מסויים. וגם לייצר כמה תגובות משלהם, מה שיוביל ל"יער אפל" של תוכן מהונדס שאט אט משפיע על השיח האנושי. לא שזה לא קורה במידה מסויימת כבר היום.

מאוכזבי טסלה שמתאגדים כרגע כנגד החברה לאחר הורדות המחיר מתחילים לייצר המון רעש, הבינה מלאכותית ששולטת בצי המכוניות עשויה להחליט שהדרך הטובה ביותר להגן על עצמה מפני איומים פוטנציאליים כנגדה, היא להניע את כל המכוניות להאנגר מרוחק ולהסתיר אותן. אוקיי, אז זה לא אפשרי מחר בבוקר, אבל עוד 30 שנים יהיו מכוניות אוטונומיות לחלוטין? סבירות גבוהה שכן. האם במקרה כזה יהיה ניתן להשאיר את האנושות ללא תחבורה. מעניין.

ומה עם בינה מלאכותית ששולטת במערכות חיזוי מזג האוויר שמחליטה שהדרך הטובה ביותר להגן על עצמה מפני איומים פוטנציאליים היא ליצור תחזיות שווא, מה שיוביל לכאוס ובלבול באוכלוסיה? או בינה מלאכותית ששולטת בפלטפורמת המסחר בבורסה, מתמרנת את השוק וגורמת לקטסטרופה פיננסית גלובלית. או אולי כזו שמפעילה אפליקציות הכרויות ויוצרת מערכות יחסים שהעתיד היחיד שלהן היא אומללות? תודו שאלה סוגיות מעניינות שגורמות לחשוב.

שכל ישר

נחמד להשתעשע ברעיונות אפוקליפטיים כאלה אבל האמת היא שאנחנו די רחוקים משם. אחת הסיבות היא שכל ישר. לבינה מלאכותית עדיין חסרה היכולת להבין ולהשתמש בשכל הישר בצורה שבני אדם עושים. זו בעיה קשה לפתרון מכיוון שהשכל הישר אינו דבר פשוט שניתן להגדיר, אלא אוסף של יכולות וידע שאנו רוכשים לאורך חיים שלמים של חוויות.

שאלתי את ChatGPT, שאלה די פשוטה שהבן שלי בן ה-8 ידע להשיב אליה די מהר. "לרוזה יש 4 אחיות, ואח אחד בשם דוד, כמה אחיות יש לדוד?". התשובה של הבינה המלאכותית? אין מספיק מידע בכדי לספק תשובה. וואלה.

מערכות בינה מלאכותית יכולות לעבד כמויות גדולות של נתונים ולבצע תחזיות, אך לרוב אין להן את היכולת להבין את הגורמים הבסיסיים לאירועים או לחזות את ההשלכות של פעולות.

הנה כמה מצבים שיכולים להכניס את הבינה המלאכותית לפינה ולספק תוצאות לא ברורות:

• הבנת הקשר – מערכות בינה מלאכותית יכולות לבצע היטב משימות ספציפיות כאשר ההקשר מוגדר היטב, אך לעתים קרובות הן מתקשות להבין את ההקשר הרחב יותר בסיטואציות מסויימות. יש סיפור מוכר על מדענית שהקרינה על מסך תמונה ממהדורת חדשות שבו הופיעו שני בני אדם והכותרת "צ'יזבורגר דוקר". אני מניח שכל אדם עם היגיון בסיסי מבין מה הלך שם בדיוק כמו שאספר לכם על "אדם שנדקר על חניה". מה שלא מאוד טריויאלי לבינה מלאכותית להבין.
• נימוקים לגבי סיבה ותוצאה – אם תשאלו את ChatGPT ודומיו לגבי אירועים היסטוריים תקבלו דקלום די מהיר על האירוע והרקע שלו, אבל רוב הסיכויים שהוא לא יוכל לספק הסבר מקיף על הגורמים החברתיים, הכלכליים והפוליטיים המורכבים שהובילו למלחמה. המודל, הוא שום דבר מעבר לכלי סטטיסטי לניבוי מילים ברצף, הוא עושה את זה מדהים אך האמת היא שהוא חסר יכולת להבין סיבות לאירועים ותוצאותיהם.
• הבנת רגשות והתנהגות אנושיים – מערכות בינה מלאכותית יכולות לזהות רגשות מסוימים או הבעות פנים, אך אין להן את היכולת להבין באופן מלא את הסיטואציה. אדם יכול חייך כי הוא שמח, כי הוא ציני או סתם מנומס או כי זו הדרך היחידה שלו להתאבל. בינה מלאכותית לא תוכל לדייק בקשר לסיבות מאחורי החיוך.

אז אנחנו בסכנה או לא?

אם נסכם, תיאוריית היער האפל היא תזכורת לסכנות הפוטנציאליות שיכולות להתלוות לבינה מלאכותית מתקדמת. זה מדגיש את הצורך בזהירות בעת פיתוח בינה מלאכותית, ואת החשיבות של זהירות לגבי המידע שאנו חולקים וצורכים באינטרנט. ככל שהטכנולוגיה מתקדמת, הכרחי להבטיח שמחזיקי הלפידים נוקטים בצעדים הדרושים כדי לצמצם את הסיכונים ולהבטיח את האנושות.

ככל שאנו מעמיקים יותר ויותר לתוך עולם הבינה המלאכותית, קשה להבין האם אנו עומדים מול אופק חסר גבולות או כבר משוטטים ללא מטרה ביער אפל.