בכירי AI מזהירים: "הבינה המלאכותית עלולה להביא להשמדת האנושות"

לא מעט מנכ"לים, חוקרים ובכירים נוספים הזהירו בחודשים האחרונים מההשלכות של מהפכת הבינה המלאכותית ומהסכנות שלה. אלא שעצומה שפורסמה היום (ג'), ושעליה חתומים מהבכירים ביותר בתחום, מזהירה כי ה-AI עלול להביא להשמדת האנושות – לא פחות ולא יותר.

מדובר בהודעה קצרה מאוד – בת 22 מילים (באנגלית) בסך הכול, שיצאה מהמרכז לבטיחות הבינה המלאכותית. הקוצר שלה נועד במטרה להביא להסכמה כמה שיותר רחבה על תוכנה. לשונה הוא: "הפחתת סכנת ההכחדה שיש בבינה המלאכותית צריכה להיות בראש סדר העדיפויות העולמי, לצד סיכונים אחרים לחברה כמגפות ומלחמה גרעינית".

על העצומה הזו חתומים מומחים רבים בתחום, בהם סם אלטמן, מנכ"ל OpenAI; דמיס הסאביס, מנכ"ל דיפמיינד, מעבדת ה-AI של גוגל; ושניים משלושת הזוכים בפרס טיורינג ב-2018 על גילוייהם בתחום הבינה המלאכותית – ג'פרי הינטון ויהושע בנג'יו. עמיתם לזכייה, יאן לקון, שכיום משמש המדען הראשי לעולמות הבינה המלאכותית במטא, לא חתם על העצומה.

בהקדמה לעצומה נכתב: "מומחי בינה מלאכותית, עיתונאים, קובעי מדיניות והציבור דנים יותר ויותר בטווח הרחב של הסיכונים החשובים והדחופים שה-AI מביא אתו. אף על פי כן, קשה להביע דאגות מכמה מהסיכונים החמורים ביותר של כלי ה-AI המתקדמים. מטרתה של הצהרה זו היא להתגבר על המכשול הזה ולפתוח דיון. עוד מטרה שלה היא להביא לידיעת הציבור שמספר הולך וגדל של מומחים ודמויות ציבוריות לוקחים את הסיכונים החמורים ביותר של כלי ה-AI המתקדמים ברצינות".

המכתב הנוכחי מצטרף, כאמור, לשורה של אזהרות מפני השלכות הבינה המלאכותית וקריאות לאסדרה שלה, שפורסמו בחודשים האחרונים: אלטמן עצמו קרא מוקדם יותר החודש להטלת רגולציה על התחום בשימוע בסנאט האמריקני; בראד סמית', נשיא מיקרוסופט, אמר לפני ימים אחדים שיש לשמור על ה-AI תחת "שליטה אנושית" והמליץ להוסיף מנגנונים שיבלמו את ההשלכות השליליות שלו; אילון מאסק, סטיב ווזניאק ובכירים אחרים בעולם ההיי-טק קראו בתחילת השנה להפסיק לשישה חודשים את הפיתוח של מערכות AI; ומוסטפא סלימאן מדיפמיינד הזהיר שהבינה המלאכותית לא רק תחסל משרות רבות, כמו שחוששים רבים, אלא היא גם תסכן את הבריאות של מיליוני אנשים.