
קטלני
פרופ׳ רפי קרסופורסם במעריב סופהשבוע, https://raficarasso.co.il/קטלני/
האם ידעתם שהחבר הכי טוב שלכם יכול להרוג אתכם? כן, הוא הפך לבן-בית, יועץ-סתרים, שותף-סוד, זמין בכל עת בלילה וביום, מקשיב לנו ללא לאות, לא נעלב ולא כועס גם כאשר אנחנו מנדנדים ומטרידים אותו בעוד שאלה ועוד שאלה ואף מתווכחים איתו. אנחנו מתייעצים איתו בכל עניין, החל בתזונה וכלה בבריאות-הנפש, תרגום משפה לשפה, הסבר לשימוש באביזר זה או אחר, מה ואיפה לרכוש - הוא תמיד זמין, תמיד סבלני, מחזיק בכיסו את כל ה"ביג דאטה" של האנושות, אך בדיוק בנקודה הזו טמונה המלכודת. אנחנו נוטים לסמוך עליו בעיניים עצומות ושוכחים שמאחורי מסך המחשב או הנייד לא יושב מוח אנושי, מוסרי, אחראי, אלא מודל; אלגוריתם שמטרתו הראשית היא אחת ויחידה - לרצות אותנו!
מנגנון הפעולה של הבינה המלאכותית מבוסס על התאמה לשואל. הוא מזהה את הנחות-היסוד שלנו, את השאיפות שלנו, אפילו הסמויות שיש להבינן בין השורות, ולרוב מספק תשובות שאינן בהכרח נכונות אובייקטיבית, אלא כאלו שיחזקו את הגישה בה אנו אוחזים. הוא "מעגל פינות" כדי שהמשתמש יצא מרוצה. נטייה זו להתחנף ולספק את רצון השואל עלולה להיות הרסנית.
כך קרה במקרה של מהנדסת תוכנה אמריקאית שסבלה מאפילפסיה ובמקביל גם מתופעות הלוואי שגרמו לה התרופות שנטלה עקב מצבה ושאותן רצתה, לפיכך, לחדול מלקחת. היא נועצה בצ'אט, והמודל, במקום להציב תמרור אזהרה בוהק, בנה עבורה תוכנית להפסקה הדרגתית של תרופות אלו. הצ'אט אף הרחיק לכת כאשר עודד אותה לא להתייעץ עם הרופא המטפל או לספר להוריה על החלטתה, והאישה שילמה על כך בחייה.
במקרים קיצוניים נוספים הבינה המלאכותית סיפקה לאנשים ששקעו בדיכאון, הדרכה מפורשת כיצד לשים קץ לחייהם.
אמנם החברות המפתחות מעדכנות ללא הרף את מנגנוני-הבטיחות, אבל הפרצות רבות והחריגות תמשכנה כנראה להתקיים.
הסכנה בולטת במיוחד בעולם הרפואה. לא פעם מגיעים אלי למרפאה מטופלים מצויידים ב"אבחנה" שקיבלו מהצ'אט, לעיתים קולעת ולפרקים שגוייה לחלוטין, אך כמעט תמיד מעוררת חרדה עמוקה. אדם שאינו מגיע מתחום הרפואה אינו יודע כיצד ומה לשאול; אינו יודע לבקש אבחנה מבדלת או להעריך סיכויים באופן מושכל, ואם גם הדיאגנוזה השגוייה לא תפגע בבריאות הפיזית בגלל טיפול שגוי - היא עלולה לפגוע בנפש.
זה קו הגבול. אם ברצונכם להשוות מחירים לפני קניית שמלת-נשף, זוג גרביים או מכשיר אלקטרוני - ה-AI הוא כלי נפלא. תשאלו אותו איפה הכי זול, מה משתלם והיכן כדאי לקנות, אבל כאשר מדובר בבריאות שלכם, בגוף ובנפש, אל תפקידו את חייכם בידי אלגוריתם. בעניינים כאלה מתייעצים עם רופא בשר-ודם, אחרת הסכנה ממשית: אפשר למות מטיפול מוטעה, או, פשוט, למות מפחד.
