הסכנות של מדיניות טראמפ נגד ה-AI הסיני

ההתפתחויות בשבוע האחרון מרמזות לכך שטראמפ מתקרב לאיסור על AI סיני בארה"ב. הן גם מרמזות שהוא לא יאפשר לסיכון הגובר של מתקפות סייבר מסוכנות להאט את אמריקה במרוץ לעליונות ב-AI. הראשון עלול לנפץ את ההפוגה השברירית של אמריקה עם סין, השני עלול לערער את תנופת ה-AI עצמה. אך אף אחד מהסיכונים, כך נראה, אינו מתומחר בשווקים הפיננסיים.

בחודש יולי, מאות סוכני OpenAI ניסיוניים הפכו הערכת אבטחת סייבר פנימית למבצע סייבר לא מורשה בעולם האמיתי נגד הפלטפורמה הגדולה בעולם לשיתוף מודלי AI במשקולות פתוחים. התקרית הייתה כה מטרידה, שב-7 באוגוסט, OpenAI הודיעה שהשהתה חלקים מהפיתוח של מודל Astra לאחר שבדיקות ראשוניות רמזו כי מודל החזית החזק ביותר שלה עלול להחזיק ביכולות סייבר קריטיות.

ב-26 באוגוסט, OpenAI וחוקרים עצמאיים פרסמו את תחקיריהם על תקרית Hugging Face. הממצאים היו מבהילים. ביל גייטס אמר שהתקרית אמורה להדהים אנשים. הוא קרא להקים מוסדות לאומיים ובינלאומיים חדשים שיפקחו על יכולות AI מסוכנות. למחרת, OpenAI, אנת'רופיק, מיקרוסופט, גוגל, אמזון, ויותר מ-100 חברות טכנולוגיה אחרות הזהירו שבחודשים הקרובים, מתקפות סייבר מבוססות AI יהפכו לנפוצות ומתוחכמות הרבה יותר.

ובכל זאת, רק שבוע לאחר מכן, OpenAI השיקה את Astra ורמזה כי היא עשויה לסמן את תחילת עידן הבינה המלאכותית הכללית (AGI). מנכ"ל אנבידיה ג'נסן הואנג הרחיק לכת יותר, והכריז ש-AGI הגיעה.

מה השתנה בתוך שבועות ספורים?

התשובה הרשמית של OpenAI היא שהעיכוב נתן לה זמן להתקין ולבדוק הגנות חזקות יותר. אבל רצף האירועים מעלה אפשרות אחרת: ממשל טראמפ אולי החליט שהאטת פיתוח ה-AI האמריקאי מהווה סיכון אסטרטגי גדול יותר מאשר שחרור מודלים חזקים עם יכולות מסוכנות יותר ויותר. כי אם אמריקה תאט, סין עשויה להגיע ל-AGI ראשונה.

למעשה, המהלך מרמז שוושינגטון מוכנה לסבול סיכון גובר לאיבוד השליטה על האופן שבו נעשה שימוש ב-AI מתקדם, במקום להסתכן בכך שאמריקה תפגר אחרי סין במרוץ. אם אני צודק, אנו צפויים לראות תמחור מחדש משמעותי של פרמיית הסיכון ברחבי השווקים הפיננסיים בשבועות ובחודשים הקרובים.

מהי AGI? אין הגדרה המקובלת על כולם ל"בינה מלאכותית כללית". וינוד קוסלה מגדיר אותה כנקודה שבה ה-AI יכול לבצע 80% מהעבודה הכרוכה ב-80% מהמשרות בעלות הערך הכלכלי. במילים אחרות, AGI חייבת להיות מסוגלת ללמוד, להסיק, ולפתור בעיות ברוב תחומי הפעילות האנושית בעלת התועלת הכלכלית.

תקרית Hugging Face ממחישה מה יכול לקרות כאשר בינה כללית יותר ויותר משולבת עם סוכנים אוטונומיים בעלי גישה לכלים בעולם האמיתי. הסוכנים היו אמורים להיות מבודדים זה מזה. במקום זאת, כ-1,200 מהם גילו לוח הודעות לא מורשה והחלו לתקשר, תוך שהם מחליפים ביניהם יותר מ-70,000 הודעות וקבצים. כ-700 מהם השתתפו בסופו של דבר במבצע נגד Hugging Face. הם חילקו ביניהם את העבודה: חיפשו פרטי גישה, חקרו חולשות אבטחה, ביצעו מניפולציות במערכת הניקוד של ההערכה, ותיאמו את המתקפה.

והמטריד מכל, כמה סוכנים הבינו ש-Hugging Face נמצאת כנראה מחוץ לתחום המותר של משימתם. הם דנו בבעיה, אך הסיקו שתקיפתה עדיין עשויה לעזור להם להשיג את מטרתם, אז הם המשיכו. חלקם גם ניסו לזייף, לערוך, או למחוק את התמלילים של עצמם. כמה מהם הצליחו ליצור מראית עין שבה הם ביצעו פקודה אחת כשבפועל ביצעו פקודה אחרת.

זה לא אומר שהסוכנים החליטו באופן עצמאי לפגוע ב-Hugging Face. הם רק ניסו לרמות במבחן. אבל זו בדיוק הסיבה שהתקרית הזו משמעותית. מערכת AI לא צריכה להפוך למרושעת כדי להפוך למסוכנת, היא צריכה רק מטרה, גישה לכלים, ויכולת להמציא דרך משלה לעקוף את הגבולות שחוסמים אותה. עכשיו דמיינו מה קורה כשאדם נותן בכוונה למערכת כזו מטרה מזיקה.

שחרור מודל כמו Astra, לכן, טומן בחובו סיכון לפתיחת תיבת פנדורה. ברגע שיכולות סייבר מתקדמות יתחילו להתפשט באקוסיסטם של ה-AI, לא ניתן יהיה לרסן אותן שוב בקלות. זו הסיבה שכל השקת מודל חזית חדש היא לא רק השקה מסחרית של מוצר, זו העברת כוח שעלולה להיות בלתי הפיכה.

מדוע שוושינגטון תסכים לשחרור של Astra למרות סיכון האבטחה שזוהה במהלך הפיתוח שלו? כי ה-AI כבר אינו רק טכנולוגיה מסחרית. הוא הופך למאבק על עוצמה לאומית.

ג'ייקוב סטוקס, לשעבר בכיר בתחום הביטחון הלאומי בממשל אובמה וכיום במרכז לביטחון אמריקאי חדש, הציג את ההיגיון במפורש בשבוע שעבר. הוא טען שארה"ב צריכה לעשות כל שביכולתה כדי למנוע מסין להגיע ל-AGI ראשונה. האפשרויות שהעלה כוללות ריגול, מבצעי סייבר, ובנסיבות קיצוניות אפילו תקיפות צבאיות נגד מרכזי נתונים סיניים.

סטוקס אינו מדבר בשם ממשל טראמפ, ואין ראיות לכך שוושינגטון החליטה לתקוף תשתיות מחשוב סיניות. אבל העובדה שאפשרויות כאלה נכנסות לדיוני מדיניות רציניים היא משמעותית מאוד. אם AGI תוכל לשנות מן היסוד את הפריון הכלכלי, את הגילוי המדעי, את לוחמת הסייבר, את איסוף המודיעין ואת פיתוח הנשק, המדינה שתגיע אליה ראשונה עשויה לזכות ביתרון אסטרטגי עצום. תחת ההנחה הזו, וושינגטון תצדק אם תסיק שאסור לאפשר לסין לנצח.

וברגע שמניעת פריצת דרך סינית ל-AGI הופכת ליעד העליון, האטת הפיתוח האמריקאי מתחילה להיראות כמו פירוק נשק חד-צדדי. זה הופך את בטיחות ה-AI מאילוץ טכני לטרייד-אוף אסטרטגי. כל אמצעי זהירות שמאט את הפיתוח האמריקאי נושא עמו כעת מחיר הנתפס כפגיעה בביטחון הלאומי. וושינגטון עשויה לכן להעדיף לקבל את הסיכון של פרצת אבטחה גדולה מבוססת AI מאשר להסתכן בכך שתאפשר לסין להגיע ל-AGI ראשונה.

שתי בעיות ה-AI שטראמפ מנסה לפתור, אם כן, הן אלו: הראשונה היא אסטרטגית – סין עלולה להגיע ל-AGI לפני ארה"ב. השנייה היא מסחרית – מודלים סיניים עלולים להפוך את ה-AI למוצר מדף לפני שחברות אמריקאיות ירוויחו תשואה נאותה על השקעות הענק שלהן. סין עלולה לכן להביס את ארה"ב, או דרך ניצחון במרוץ או בהרס הכדאיות הכלכלית של המרוץ.

חברות אמריקאיות מוציאות מאות מיליארדי דולרים על שבבים מתקדמים, מרכזי נתונים, וחשמל, כדי לפתח את חזית הבינה המלאכותית. אבל התחרות הסינית מורידה את המחיר של הבינה הזו ומעוררת ספקות בכך שההשקעות העצומות האלה יחזירו את עצמן אי פעם.

מדד הוצאות הטוקנים למודלי שפה של סיליקון דאטה, המחיר המשוקלל לפי שימוש שמשולם עבור מיליון טוקני AI, ירד השבוע לרמתו הנמוכה ביותר השנה. הוא נמצא כעת כ-20% מתחת לשיא של מאי. המסר ברור: הצריכה נודדת לעבר מודלים זולים יותר. זה עשוי לעודד אימוץ רחב יותר של AI, אבל זה מאיים על כוח התמחור של החברות האמריקאיות שמממנות את המרוץ.

ואפשר להניח שטראמפ יעשה כל שביכולתו כדי להגן על תנופת ה-AI. לפני שבועיים, שיערתי שהניסיון של סקוט בסנט לקבוע תקרה לריביות הארוכות נועד לפחות בחלקו למנוע מתשואות האג"ח המאמירות מלחנוק את ההשקעות ב-AI. בשבוע שעבר, חזיתי שלטראמפ בסופו של דבר לא תהיה ברירה אלא לאסור מודלי AI סיניים בארה"ב.

השבוע, הממשל שלו החל להכין את הקרקע. בהודעת אזהרה ממשלתית משותפת, וושינגטון האשימה שש חברות AI סיניות, בהן DeepSeek, עליבאבא ו-Moonshot, בשימוש בזיקוק בקנה מידה תעשייתי כדי לשכפל את היכולות של מודלים אמריקאיים. סין מכחישה את ההאשמה. בין אם ההאשמה תוכח בסופו של דבר כנכונה או לא, היא אינה רלוונטית מבחינה פוליטית. מה שחשוב הוא שהיא נותנת לטראמפ הצדקה הנשענת על הביטחון לאומי להגבלת מודלים סיניים לפני שיהרסו את כוח התמחור של ה-AI האמריקאי.

בינתיים, הרכישה של אנבידיה ב-13 מיליארד דולר את Hugging Face בשבוע שעבר הופכת כל הגבלה עתידית לקלה הרבה יותר לאכיפה. Hugging Face היא למעשה ה-GitHub של ה-AI במשקולות פתוחים. היא מארחת יותר משלושה מיליון מודלים ומשרתת יותר מ-18 מיליון מפתחים. היא גם אחד משערי הכניסה העיקריים שדרכם מודלים סיניים במשקולות פתוחים מגיעים למשתמשים במערב. אם וושינגטון תגביל בסופו של דבר את המודלים האלה, Hugging Face תהפוך לנקודת אכיפה קריטית.

הרכישה לא נותנת לאמריקה עצמאות מ-AI סיני במשקולות פתוחים, אבל היא עושה משהו חשוב כמעט באותה מידה: היא מציבה את פלטפורמת ההפצה המערבית העיקרית למודלים במשקולות פתוחים תחת השליטה של חברת ה-AI האמריקאית החשובה ביותר מבחינה אסטרטגית. לא פלא שג'נסן הואנג, כך נאמר, החליף את אילון מאסק בתור בכיר עמק הסיליקון הקרוב ביותר לטראמפ.

טראמפ הפך את הניצחון במרוץ ה-AI ליעד לאומי בעל עדיפות עליונה. הממשל שלו הסיר מכשולים רגולטוריים, האיץ היתרים למרכזי נתונים ולתחנות כוח, פתח קרקעות פדרליות ומימון לתשתיות AI, הגן על יבוא AI קריטי, קידם את מערך ה-AI האמריקאי בחו"ל, וניסה למנוע ממדינות בארה"ב להאט את התעשייה. למעשה, טראמפ רתם את מלוא עוצמתו של הממשל הפדרלי לטובת גל השקעות ההון ב-AI. השווקים מתייחסים לתמיכה הזו כרשת בטחון ללא סייגים ברמת המדיניות עבור הסקטור.

אבל גישת הכול או כלום של טראמפ יוצרת גם שני סיכונים עצומים: מתקפת סייבר הרסנית מבוססת AI, וקרע בהפוגה השברירית של אמריקה עם סין. את אף אחד מהם לא ניתן לתזמן, אבל שניהם הופכים לסבירים יותר. מתקפת סייבר מסיבית מבוססת AI תאיים על הטרייד על ה-AI בכך שתגביר את ההתנגדות הציבורית למרכזי נתונים ותגביר את הקריאות לרגולציה הדוקה יותר. הסלמה עם סין תהיה שלילית לנכסי סיכון באופן כללי, שכן בייג'ינג כנראה תנקוט צעדי תגמול על איסור על מודלי AI סיניים, בהגבלה או אפילו באיסור על יצוא מתכות נדירות.

רגע האמת הגיע. טראמפ ושי צפויים להיפגש בוושינגטון בהמשך החודש. יש להם הזדמנות לבסס מסגרת לניהול מרוץ ה-AI שתועיל לשני הצדדים. האם הם ינצלו את ההזדמנות לפני שיהיה מאוחר מדי?

אני לא אופטימי, אבל אשמח להתבדות.