במסמך אסטרטגי שנשלח אמש למנהיגים ולראשי ארגוני הגנת סייבר ברחבי העולם, מזהיר ראש מערך הסייבר הלאומי יוסי כראדי, מפני אובדן שליטה בסוכני ומודלי בינה מלאכותית, וקורא למדינות להגדיר בדחיפות גבולות ריבוניים ברורים. לדבריו במסמך, "אנחנו מתקרבים למציאות שבה מערכות הגנת סייבר יצטרכו לקבל החלטות בקצב שאינו מאפשר מעורבות אנושית בכל פעולה".
אזהרתו של כראדי מגיעה על רקע מקרים אחרונים בעולם שבהם פרצו סוכני AI למאגרים ממשלתיים ועוד מקרים רבים שבהם חברות איבדו שליטה על פעולות הסוכנים.
כראדי קורא למנהיגי מדינות ולראשי גופי סייבר בעולם לקבוע כבר כעת אילו סמכויות ניתן להעביר למערכות בינה מלאכותית, ואילו החלטות חייבות להישאר באופן מוחלט בידי אדם. לדבריו, קצב ההתפתחות של מערכות AI מהיר יותר מקצב ההתאמה של מנגנוני המדיניות, הרגולציה והבקרה של מדינות.
האזהרה המרכזית במסמך נוגעת לעולם הביטחוני: ככל שמתקפות סייבר הופכות מהירות, אוטומטיות וממוקדות יותר, מערכות ההגנה יידרשו גם הן לזהות, להחליט ולפעול במהירות של מכונה, מהירות שתהיה מעבר ליכולת להפעיל אישור אנושי לכל פעולה. אלא שהפרדוקס הוא שככל שמעניקים למערכת יותר אוטונומיה, כך קשה יותר להבין את החלטותיה, לעצור אותן בזמן ולקבוע מי נושא באחריות במקרה של טעות.
במסמך מציג כראדי תרחיש שממחיש את הסיכון: מערכת הגנת סייבר אוטונומית מזהה מתקפת שאין לה תיקון אבטחה ("יום אפס") ונדרשת לבודד תשתית בתוך שניות. החלטה נכונה עשויה לבלום מתקפה, אך זיהוי שגוי עלול לגרום להשבתת רשת חיונית כגון חשמל או בית חולים.
לצורך כך מציע כראדי למדינות לאמץ את המשולש האסטרטגי של הבינה המלאכותית המאזן בין שלושה אינטרסים: חדשנות, ביטחון ושליטה אנושית. השאלה, לפי המודל, אינה אם לאמץ AI אלא היכן להאיץ את השימוש בו, היכן תלות בספקים ובתשתיות חיצוניות יוצרת סיכון לאומי, ואילו סמכויות אינן יכולות לעבור למכונה.
כראדי מציע למדינות לקבוע מדרג ברור: פעולות שניתן להעביר באופן מלא ל-AI; פעולות שמותרות רק תחת מגבלות שהוגדרו מראש; פעולות המחייבות אישור אנושי; ופעולות בעלות השלכות לאומיות בלתי הפיכות שאסור להאציל למערכת אוטונומית כלל שיתויגו כ"סמכות ריבונית שאינה ניתנת להאצלה".
"מנהיגים אינם צריכים להפוך למהנדסי AI, הם צריכים להחליט היכן תלות היא מקובלת, היכן חוסן אינו נתון למשא ומתן, והיכן הסמכות האנושית חייבת להישאר מכרעת", כותב כראדי במסמך, "אל תשאירו לאחרים להגדיר את העתיד שלכם, רתמו אותם לבנות את העולם שאתם מאמינים בו".
