יותר מ-60 מדינות, בהן סין, ארה"ב וירדן, כמו גם הרשות הפלסטינית, חתמו על אמנה בינלאומית ראשונה מסוגה, להסדרת השימוש הצבאי בבינה מלאכותית. ישראל לא חתמה על ההצהרה המשותפת.
בכנס בינלאומי ראשון בנושא, שנערך בהולנד, דנו המדינות בשימוש בבינה מלאכותית במסגרת צבאית, על רקע ההתעניינות הגוברת בשירותים כמו ChatGPT, והשימוש של שעושה אוקראינה בטכנולוגיות זיהוי פנים ובמערכות צליפה בסיוע AI במלחמה עם רוסיה. מדינות העולם מנסות לראשונה לעשות סדר בכל הנוגע לטכנולוגיה הזו, שיש לה פוטנציאל לשנות את האופן שבו מתנהלות מלחמות כיום. גם ישראל השתתפה בכנס, אך כאמור לא חתמה על המסמך.
עוד מבחזית החדשות
- חיסולו של מרוואן עיסא – מספר 3 בחמאס | גם בכיר חמאס ר'זי אבו טמע, חוסל באותה התקיפה
- היועמ"שית מיארה: "יש להיערך לגיוס חרדים כבר באפריל" | נתניהו ביקש ארכה לקראת הדיון בבג"ץ
- נתניהו: מספר האזרחים שנהרגו בעזה נמוך בהרבה מהדיווחים | "בדרך לפעולה ברפיח"
- מפגין שמאל נשך שוטרת כשעמד מול הכנסת בירושלים
- מהפך מטלטל בבית שמש | ספירת הקולות של שלב ב' בעיצומה
ההצהרה האמריקאית בסוגיה, שנכון לרגע זה אין לה מעמד חוקי, כוללת 12 נקודות, כולל הכפפה של שימוש ב-AI לדיני מלחמה בינלאומיים והבטחה שתמיד תהיה "שליטה אנושית" בכל הנוגע לנשק גרעיני. יש לציין כי לאוקראינה יש כבר מל"טי תקיפה חצי-אוטונומיים וכלי נשק מבוססי בינה מלאכותית. רוסיה טוענת שגם לה יש נשק עם יכולות AI, למרות שהטענות האלה לא הוכחו עד היום. מה שבטוח הוא שככל שהלחימה נמשכת זמן רב יותר, כך גם גדל הסיכוי שמל"טים ישמשו לזיהוי, בחירה ותקיפת מטרות ללא שיקול אנושי. מגמה זאת עלולה להוביל לפיתוח רובוטים קרביים אוטונומיים, שיהרגו ויזרעו הרס ללא יד מכוונת.
במסמך עליו חתמו המדינות הן התחייבו לפתח ולהשתמש בבינה מלאכותית צבאית בהתאם ל"התחייבויות המשפטיות הבינלאומיות ובאופן שאינו מערער את הביטחון, היציבות והאחריות העולמית".
המדינות החזקות מבחינה צבאית, בהן ישראל, לא ששו להסכים למגבלה חוקית כלשהי על השימוש בבינה מלאכותית, מחשש שהדבר עלול להעמיד אותן בעמדת נחיתות מול יריבים. זאת הסיבה העיקרית שמומחי זכויות אדם ואקדמאים ביקרו את ההצהרה, שאינה מחייבת מבחינה משפטית ולטענתם גם לא מתייחסת כלל לחששות ש-AI יכול להסלים סכסוך צבאי. מנגד, אנליסטים צבאיים וחוקרי בינה מלאכותית אומרים שעצם העלאת הנושא על סדר היום הבינלאומי משמעותי לכשעצמו, ומכיר לראשונה בכך שיש חשש חוצה גבולות לגבי שימוש בנשק אוטונומי.
באמנה מתחייבות המדינות לנקוט בצעדים יעילים, כגון בדיקות משפטיות, כדי להבטיח שיכולות הבינה המלאכותית הצבאיות שלהן "ישמשו אך ורק בהתאם לחוק הבינלאומי, בפרט המשפט ההומניטרי הבינלאומי". הן גם מתחייבות על שליטה ומעורבות אנושית בכל פעולה קריטית כשזה נוגע לנשק גרעיני, ושרק פקידים בכירים יפקחו על הפיתוח של יכולות AI צבאיות. המדינות מתחייבות גם לשתף ולפרסם עקרונות לתכנון, פיתוח, פריסה ושימוש אחראי ביכולות על ידי כל הארגונים הצבאיים שלהן. הן מבטיחות שינקטו צעדים כדי למזער הטיה לא מכוונת וכי כל הטכנולוגיות יפותחו בהתאם לנהלים של בינה מלאכותית אזרחית, עם מתודולוגיות שניתנות לביקורת, מקורות נתונים, נהלי עיצוב ודוקומטציה סדורה. המדינות מבטיחות גם שהצוות שמפעיל או משתמש ב-AI צבאי יעבור הכשרה מיוחדת כדי שיבין את היכולות והמגבלות של הטכנולוגיה, יוכל לשפוט ולקבל החלטה מושכלת בזמן אמת.
המדינות גם מבטיחות ששימוש בבינה מלאכותית צבאית יוגבל למקרים מפורשים ומוגדרים היטב, רק כדי למלא אחר הפונקציות המיועדות שלה. הן מבטיחות שהטכנולוגיות יהיו נתונות לנהלי בטיחות ובדיקות קפדניות לאורך כל מחזור החיים שלהן, החל משלב הלמידה העצמית, העדכון וההפעלה.
עוד מבחזית החדשות
- הסלמה בצפון וירי מאסיבי לעבר ישובים | צה"ל חיסל עשרות פעילי חיזבאללה
- חיסולו של מרוואן עיסא – מספר 3 בחמאס | גם בכיר חמאס ר'זי אבו טמע, חוסל באותה התקיפה
- היועמ"שית מיארה: "יש להיערך לגיוס חרדים כבר באפריל" | נתניהו ביקש ארכה לקראת הדיון בבג"ץ
- נתניהו: מספר האזרחים שנהרגו בעזה נמוך בהרבה מהדיווחים | "בדרך לפעולה ברפיח"
- מפגין שמאל נשך שוטרת כשעמד מול הכנסת בירושלים
המדינות גם מתחייבות להנדס מראש את יכולות הבינה המלאכותית כך שיהיה להן את היכולת לזהות ולהימנע מהשלכות לא רצויות, כמו גם את היכולת לנטרל או להשבית את עצמן במקרים כאלה. המדינות מתחייבות ליישם אמצעי הגנה כדי להפחית את הסיכונים לכשלים חמורים. בנוסף, מתחייבות המדינות להמשיך בדיונים על האופן שבו יש לפתח AI צבאי ולכלול בו את כל הפרקטיקות לייצור אמצעי הלחימה שלהן.
המסמך אינו מפרט בדיוק איזה סוג של מערכות אוטונומיות או מופעלות בינה מלאכותית מכוסות על ידי ההכרזה, אך מכיוון שאין הגדרה אוניברסלית של "בינה מלאכותית", הוא מבאר את המונח לצורך העניין בהערת שוליים: "למטרות הצהרה זו, בינה מלאכותית עשויה להתפרש כהתייחסות ליכולת של מכונות לבצע משימות שאחרת היו דורשות אינטליגנציה אנושית, למשל, זיהוי דפוסים, למידה מניסיון, הסקת מסקנות, ביצוע תחזיות, או נקיטת פעולה״.
תגובה אחת
לפלסטינים אין בינה רגילה .. אז איך הזמינו את החמורים האלה לכנס של בינה מלאכותית?