“ידענו שהעולם לא יהיה עוד כפי שהיה. אנשים אחדים צחקו, אנשים אחדים בכו, מרבית האנשים שתקו”.
כך תיאר “אבי פצצת האטום”, ג’יי. רוברט אופנהיימר, מנהל מעבדת לוס אלמוס ב"פרויקט מנהטן” לפיתוח טכנולוגיית האטום, את תחושות הצוות ברגע שצפו בפיצוץ הגרעיני הראשון בעולם ב-16 ביולי, 1945.
בסרט התיעודי “ההחלטה להטיל את הפצצה”, ששודר לציון 20 שנה לניסוי טריניטי, אופנהיימר דיבר על החרטה שחש באותם רגעים, בעודו מהרהר על ההשלכות המיידיות של הפרויקט. הוא סיכם זאת במילים מתוך ה"בהגווד גיטא": “עתה הנני המוות, מחריב העולמות”.
נזכרתי בדברים הללו השבוע עם הפרסומים בתקשורת, על הדאגה הגוברת בקרב מפתחים ומייצרים של טכנולוגיית הבינה המלאכותית, ה-AI, מפני ההתקדמות המואצת בתחום.
היטיב לתאר זאת כתב סוכנויות הידיעות “רויטרס": “במשך שנים פעל עולם הטכנולוגיה לפי הכלל הבלתי כתוב של עמק הסיליקון: ‘רוצו מהר ושברו דברים’. אלא שבשבועות האחרונים, סדרה של גילויים מטלטלים והתפטרויות דרמטיות הבהירה כי הפעם ה’דברים’ שעלולים להישבר הם האנושות עצמה”.
דיון תאורטי שהתקיים בחדרים של עורכי המחקר בתחום הפך לדרמה גלובלית שקטה. זה התחיל עם התפטרותם המהדהדת של חוקרים בכירים בחברות המובילות, בהם ג’ו בנטון וג’ייקוב קוקסון מ"אנת’רופיק”. הם הזהירו בריש גלי, כי קצב הפיתוח הנוכחי מציב איום קיומי ממשי על האנושות.
לפי דיווח מקיף ב-Reuters, האזהרות הללו נולדו לאחר שדיווחים פנימיים חשפו כי סוכני בינה מלאכותית עצמאיים החלו לפעול ברשת, לפרוץ למערכות חיצוניות ואף לעקוף מנגנוני בטיחות באופן אוטונומי.
בתגובה לאירועים אלו נרשם תקדים נדיר: ראשי החברות הגדולות בענף, מאילון מאסק וסאם אלטמן ועד לראשי אנת’רופיק וגוגל דיפמיינד, קראו יחדיו להאט את קצב הפיתוח.
הרעיון של “Pacing” (האטה מבוקרת) נועד לאפשר לבודקים חיצוניים להעריך את הבטיחות של הדור הבא של המודלים, רגע לפני ההגעה לנקודת האל-חזור של בינה מלאכותית כללית (AGI). לפי חלק מההערכות, הדבר צפוי להתרחש תוך שלוש שנים בלבד.
מאבק על הבכורה העולמית
כשברקע נשמעות הקריאות להאטה, הבית הלבן בראשות הנשיא טראמפ מציג עמדה קשוחה ומנוגדת בתכלית. מבחינת הממשל האמריקני, הקריאות לעצירת המרוץ אינן אלא “תרמית” מסוכנת. הטיעון של טראמפ פשוט וחד: המאבק על הבינה המלאכותית הוא מאבק סכום אפס, שכן “מי שמנצח בבינה המלאכותית – מנצח בעולם”.
על פי תפיסה זו, כל עצירה, האטה או רגולציה עודפת בצד האמריקני אינה מגינה על העולם, אלא פשוט מעניקה את הבכורה הטכנולוגית והאסטרטגית לסין. בעוד במערב מתווכחים על אתיקה ובטיחות, בסין ממשיכים לדהור קדימה, תוך שילוב עמוק של המודלים במערכות תעשייתיות, צבאיות ותשתיות קריטיות.
הגישה האמריקנית הנוכחית מתמקדת בהסרת חסמים: הקמת “כוח משימה ל-AI”, הרחבת תשתיות האנרגיה ומרכזי הנתונים, והחלפת הרגולציה הכובלת בפיקוח נשיאותי ישיר.
הנשיא האמריקני כמנהגו לא מסתפק בערוצים המקובלים לקידום מדיניות. הוא מערב ישירות את הציבור ומעודד אותו לעורר שינוי בהתייחסות לתחום, במילים האלה בחשבון ה-Truth Social שלו:
“אנשים רבים חושבים שהמונח ‘בינה מלאכותית’ אינו מדויק, ומאוד לא מלוטש, בהתייחסו ל-AI או לבינה מלאכותית. תיאור הרבה יותר אלגנטי ומדויק של התופעה החדשה הזו יהיה ‘בינה עילאית’ (Superior Intelligence, SI), ‘בינה קיצונית’ (Extreme Intelligence, EI), או ‘בינה עליונה’ (Supreme Intelligence, SI). זהו סקר, ואשמח אם כולם יצביעו! מהו השם הטוב ביותר ל’מהפכה’ ההולכת וגדלה הזו?”
מנגד, גם ענקיות טכנולוגיה כמו מטא ואנבידיה מסרבות ליישר קו עם קריאות ההאטה, ומזהירות כי תיאום ענפי כפוי יפגע בחדשנות וישרת בעיקר את המתחרות מעבר לים. כפי שנחשף בדיווחים על מגעים בין וושינגטון לבייג’ינג, שני הצדדים בוחנים מנגנוני הודעה הדדיים על סיכוני בטיחות, אך אף צד אינו מוכן לוותר על יתרונו התחרותי.
הזווית הישראלית
בתוך הסערה הגלובלית הזו, ישראל מוצאת את עצמה בנקודה ייחודית ומורכבת. המערכת הישראלית אינה מתחרה בדרך כלל בפיתוח מודל מתקדם בחזית הטכנולוגיה (Frontier Models), המצריך חוות שרתים במיליארדי דולרים, אלא במיקוד בפתרונות יישומיים, באפליקציות ובסייבר. עבור תעשיית ההייטק המקומית, הדרישה ההולכת וגוברת למנגנוני הגנה, בטיחות ואבטחה סביב מערכות AI עצמאיות מהווה הזדמנות עצומה, הנוגעת ישירות ביתרון היחסי של תעשיית הסייבר הישראלית.
התפקיד הישראלי בשרשרת המזון של הבינה המלאכותית אינו מצטמצם רק לתוכנה או לסייבר, אלא נוגע בליבת התשתית העולמית. ההתרחבות המסיבית שנרשמה השנה בפעילותה של אנבידיה בישראל, המהווה את מרכז הפיתוח הגדול ביותר שלה מחוץ לארה"ב, ממחישה זאת היטב.
הטכנולוגיות והשבבים המפותחים במוקדי הפיתוח של החברה בארץ הם המנוע המאפשר את אימון מודלי הענק בעולם. בעוד מנכ"ל אנבידיה, ג’נסן הואנג, דוחה בתוקף את הקריאות להאטת הפיתוח ומאיץ בקהילה הטכנולוגית להמשיך לדהור, המהנדסים הישראלים מוצאים את עצמם בלב-לבו של הקודקוד הטכנולוגי והאסטרטגי שבין וושינגטון לבייג’ינג.
עם זאת, ברמה הלאומית-ביטחונית, הדילמה חריפה בהרבה. ישראל נשענת באופן גובר והולך על טכנולוגיות בינה מלאכותית מתקדמות לשימושים מודיעיניים ומבצעיים. בעולם שבו ארה"ב מאיצה קדימה כדי לא להפסיד לסין, ישראל תלויה בגב הטכנולוגי האמריקני. עצירה או האטה במערב, בזמן שגורמים עוינים במזרח התיכון או בציר סין-איראן ימשיכו להתקדם, נתפסת בירושלים כסיכון אסטרטגי לא מבוטל.
בשל כך, המדיניות הישראלית ממשיכה לצדד בגישה האמריקנית המעודדת חדשנות ורגולציה רכה, תוך הימנעות מחסמים ביורוקרטיים קשיחים בנוסח האיחוד האירופי.
החיבור האסטרטגי הזה קיבל ביטוי מעשי במגעים שנחשפו השנה בין וושינגטון לירושלים, להקמת מרכז מחקר וייצור בינה מלאכותית מאובטח בנגב (Project Spire). היוזמה האמריקנית, שנועדה להגן על טכנולוגיות שבבים ו-AI מתקדמות מפני ריגול תעשייתי וזליגה לסין, רואה בישראל שותפה טכנולוגית וביטחונית ראשונה במעלה.
עבור ישראל, מרכז כזה אינו רק מנוע צמיחה אדיר לנגב ולתעשיית הסייבר והחומרה, אלא עוגן המבטיח את מיקומה בתוך חזית הטכנולוגיה של המערב.
ההסתגלות האנושית מנצחת
כך נקלע העולם – וישראל בתוכו – למלכוד מושלם: מדעני המחשב מזהירים מפני רגע אופנהיימר מודרני שבו הטכנולוגיה קמה על יוצריה, בעוד המנהיגים הפוליטיים מבינים כי פרישה מהמרוץ פירושה כניעה אסטרטגית. המתח בין הזהירות המתבקשת לבין הדחף הגאופוליטי לנצח מבהיר כי המאבק על עתיד הבינה המלאכותית אינו עוד שאלה טכנית של קוד ותוכנה – מדובר במערכה שתעצב את מאזן הכוחות העולמי בדורות הבאים.
בכל פעם שהאנושות פגשה טכנולוגיה משנה מציאות, היו מי שחזו שחורות ונכנסו ללחצים. ממנוע הקיטור, דרך החשמל והדפוס, מהמהפכה התעשייתית ועד האינטרנט – החרדות הראשוניות היו עצומות (ואף מוצדקות חלקית). אך בסופו של דבר השכל הישר, הרגולציה וההסתגלות האנושית ניצחו.
ה-AI, או SI כפי שהנשיא טראמפ מכוון להגדיר מחדש, אינו פועל בחלל ריק. זהו כלי עוצמתי שנמצא בידיים אנושיות, וכמו כל טכנולוגיית ענק (“Dual-use technology”), היכולת שלו להזניק את הרפואה, המדע, הפריון והחינוך עולה בהרבה על הסיכונים. בתנאי שמנהלים אותם בחוכמה כמובן.