דלג לתוכן
מבזקים

חוקר באנתרופיק: "סיכוי של יותר מ-10% שבינה מלאכותית תהרוג את האנושות"

סערה בעקבות התפטרות חוקר בטיחות שטוען כי מעבדות הפיתוח מהמרות על חיינו • מדענים נוספים בענקית הבינה המלאכותית גיבו את דבריו: "אין לנו כרגע תוכנית לפתרון הבעיה"

פורסם:
אנת'רופיק, ארכיון

אנת'רופיק, ארכיון צילום: AP Photo/Patrick Sison

סערה בעולם הבינה המלאכותית מתרחשת היום (רביעי), לאחר שחוקר הבטיחות בחברת אנתרופיק, ג'ייקוב קוקסון בן ה-27 שעבד בעבר ב-OpenAI, הודיע על התפטרותו והזהיר כי החברות המובילות "מהמרות על החיים שלנו". הפוסט שפרסם זכה בתוך שעות ספורות לעשרות מיליוני צפיות ברשת, ואף גרר תגובה מהמשקיע המיליארדר ביל אקמן, שכינה את המהלך "מדאיג".

>>> הצטרפו לערוץ הוואטסאפ החדש של i24NEWS עברית <<<

שעות מועטות לאחר מכן, חוקר נוסף בחברה, אוון הובינגר, גיבה את דבריו והצהיר כי קיים סיכוי של יותר מ-10% שהטכנולוגיה תוביל להשמדת האנושות בתוך העשור הקרוב, תוך שהוא מציין כי לחברה אין כרגע תוכנית להתמודדות עם תרחיש זה.

מומלצים

קוקסון מתח ביקורת חריפה על המרוץ של אנתרופיק ושל OpenAI לעבר סופר-אינטליגנציה בעלת יכולת שיפור עצמי, והזהיר ברשת החברתית כי אין להקל ראש בעוצמת הטכנולוגיה הזו, ברקע אזהרתו בריאיון ל"וול סטריט ג'ורנל" שלפיה עמיתיו מגדירים את המצב כ"סוף המשחק" וכי "עד סוף השנה הבאה הדברים עלולים לצאת מכלל שליטה".

מה השלב הבא? מנכ"ל OpenAI הכריז על "עידן חדש של בינה מלאכותית"
מה השלב הבא? מנכ"ל OpenAI הכריז על "עידן חדש של בינה מלאכותית"

לדבריו, "אלה יהיו בתוך זמן קצר מערכות על-אנושיות שיוכלו לפרוץ לכל דבר, לחולל מהפכה בכל תחום בן לילה, ולרכוש כוח ומשאבים אמיתיים".

הובינגר אישר את החשש וציין כי לחברה אין מענה לבעיית ה"אליגנמנט" (Alignment) - מונח המגדיר את האופן שבו מרסנים ומכוונים מערכת בינה מלאכותית כך שתפעל בהתאם לערכים, לכוונות ולבטיחות של בני האדם, במקום לפעול על פי מטרות משל עצמה שעלולות לפגוע בהם.

לדברים הצטרף גם סמואל מרקס, מוביל תחום הפיקוח הניתן להרחבה (Scalable Oversight) באנתרופיק, שסיפק הערכה רחבה ומטרידה יותר. מרקס ציין כי מפתחי בינה מלאכותית מאמינים שהטכנולוגיה שלהם "עלולה לגרום להכחדת האנושות" כבר במהלך השנים הקרובות. לדבריו, השיטות הנוכחיות של אליגנמנט מסוגלות רק "לדחוף קלות את המערכות לעבר התנהגות טובה יותר" אך לא להתאים ולרסן אותן בצורה חזקה ומוחלטת.

לקריאה נוספת

חשד לרשת גניבת זהויות באמצעות בינה מלאכותית; לפחות 120 ישראלים נפלו קורבן
חשד לרשת גניבת זהויות באמצעות בינה מלאכותית; לפחות 120 ישראלים נפלו קורבן

מרקס הבהיר כי התוכנית הזמנית של התעשייה היא לפתח מודלים שיאמנו ויאבטחו את יורשיהם טוב יותר מכפי שבני אדם מסוגלים, אך תמריצים מסחריים ותחרותעיקשת גוררים את החברות להמשיך במרוץ המסוכן, וזאת בעוד אנתרופיק אף נערכת להנפקת ענק היסטורית בבורסה.

תגובות

הוספת תגובה

אין עדיין תגובות. אפשר להיות הראשונים.