נדמה שהסיפורים על הסיכונים שטמונים בבינה המלאכותית לא מפסיקים להצטבר: ישראלים שנעצרו במלזיה אחרי שהתייעצו עם הצ'ט אם אפשר לעשות שם עצירה בבטחה; עיריית רמת גן מסרבת להסיע תלמיד בחינוך המיוחד לאחר שהבינה המלאכותית המציאה חוזר מנכ"ל בנושא; רצף של סיכוני בטיחות שזוהו בכל פלטפורמות ה- AI הגדולות, כולל מודלים שמסרבים לכבות את עצמם; ועוד.
במובנים רבים, השלב שבו אנחנו נמצאים עכשיו אינו שונה משלבי ביניים עתירי-סכנות שאיפיינו כל טכנולוגיה חדשה שנכנסה לשימוש. יש טכנולוגיה חדשה, עושים בה שימוש נרחב, את הסיכונים מגלים רק בהמשך ולכן אמצעי הבטיחות מתווספים בעיכוב.
אם לא גללתם עדין באתר שמרכז תמונות של רכבלי סקי מהשנים 1950-1970, שאמצעי הבטיחות שלהם היו, ובכן, לא קיימים – אתם מוזמנים לעשות זאת בקישור הזה (לא לבעלי לב חלש).
למעשה, גם הטרגדיה המפורסמת של טביעת הטיטאניק ב- 1912 התרחשה בחלון זמן כזה: אניות נוסעים ענקיות נכנסו לשימוש והוכנסו בהם גם הרבה מנגנוני בטיחות. יחד עם זאת, בגלל שהאמינו שהספינה לא יכולה לטבוע, הוצבו עליה רק 20 סירות הצלה, שהיו יכולות להספיק לכל היותר לכמחצית מ- 2,208 הנוסעים. עוד מעט נחזור לטיטאניק.
קראתי ושמעתי המלצות מאד מגוונות בנושא ההתמודדות עם סיכוני הבינה, החל מאיסור שימוש בה, דרך הגבלות דרקוניות ועד הגברת השימוש כדי לזהות את כל הסיכונים. חלק מהכיוונים הגיוני, בעוד אחרים טפשיים לחלוטין. אני רוצה להצביע רק על כיוון אחד שלא נכון לאמץ.
בשנים שלאחר טביעת הטיטאניק החלה מגמה משמעותית של הוספת סירות הצלה לכלי שיט גדולים ומרובי נוסעים – הרבה מעבר לתכנון המקורי. אחת מספינות הטיולים שעליהן העמיסו כמות ענקית של סירות הצלה היתה "איסטלנד". ב- 1915 היא עגנה על גדת נהר שיקגו, כשעליה 2,572 עובדי חברת "וסטרן אלקטריק", שהיו בדרכם לפיקניק במישיגן.
באופן אירוני, עומס סירות ההצלה הפך אותה לכבדה מדי, פגע ביציבות שלה והיא התהפכה כשהיתה קשורה לרציף. 844 אנשים נספו באסון, מטרים ספורים מהיבשה.
האם החוק שכפה את הוספת סירות ההצלה הוא שגרם לאסון? אפשר לטעון שכן, אבל זו כנראה תהיה טעות. בין הבנת המגבלה הנדרשת לבין אופן המימוש יש מרחק רב לשיקול דעת אנושי. אפשר היה לבצע בדיקות הנדסיות שונות, אפשר היה לצמצם את כמות הנוסעים המירבית ואפשר היה גם להכין תכנית הצלה לתאונות מסוג זה.
לא נכון לכבות את השאלטר של הבינה המלאכותית, אך גם לא נכון להתעלם מהסכנות. המרכיב האנושי הוא מה שיעשה את ההבדל. אתם טסים למקום שאתם מראש חוששים שאולי יהיה בעייתי? בינה מלאכותית אינה הכלי לבדוק את רמת הסיכון! וכדאי גם להפעיל מנגנוני בטחון נוספים (חלק מהנוסעים שנעצרו לא ידעו אנגלית, מה שהיקשה על נסיונות השחרור שלהן).
כדי להשאיר אתכם עם טעם טוב, לפחות לגבי נהר שיקגו, אספר רק אנקדוטה שעליה למדתי כשביקרתי בעיר לפני 3 שנים: זהו הנהר הראשון (ולמיטב בדיקתי גם היחיד) שבני אדם שינו את כיוון הזרימה שלו.
בסוף המאה ה-19, שיקגו סבלה מבעיית זיהום קשה. הנהר הזרים שפכים ישירות לאגם מישיגן – שהיה מקור מי השתייה של העיר. התוצאה: מגפות כולרה וטיפוס. בצעד נועז, הוחלט "להפוך" את כיוון הנהר באמצעות מערכת תעלות וסכרים, כך שיזרום לכיוון נהר המיסיסיפי במקום לאגם. בשנת 1900 המבצע הושלם, ושיקגו הפכה לעיר היחידה בעולם שהפכה כיוון זרימה של נהר מרכזי.
