פורסם ב: 18 באפריל, 2025 / עדכון מאת: 29 באפריל 2025 - מחבר: קונרד וולפנשטיין
בינה מלאכותית בצבא: פרויקט AI "אורנוס קי" של הבונדסווהר וההשלכות האתיות שלו-דימוי: xpert.digital
אורנוס AI והפיכת טכנולוגיית ההגנה הגרמנית
אורנוס קי: כיצד גרמניה הגדירה מחדש את העתיד הצבאי
הבונדסווהר נמצא בשלב הסופי של מכרז סודי לאחד הפרויקטים החשובים ביותר שלו בעתיד הקרוב. "אורנוס קי" מסמן נקודת מפנה בשימוש הצבאי בבינה מלאכותית בגרמניה ומעלה שאלות בסיסיות לגבי הקשר בין טכנולוגיה, ביטחון ואחריות אתית. פיתוח זה משקף מגמה עולמית, בה AI עוברת יותר ויותר ליישומים צבאיים ומביאה הן להזדמנויות עצומות והן עם סיכונים ניכרים.
מתאים לכך:
פרויקט "אורנוס קי" - עידן חדש של טכנולוגיה צבאית
עם פרויקט "אורנוס קי", הבונדסווהר מתכנן את השימוש הגדול -בקנה מידה בבינה מלאכותית באזור ההגנה לראשונה. בעיקרו של דבר, מדובר ביצירת עמדת קרב דיגיטלית המפגישה ומנתחת נתונים ממגוון רחב של מקורות מידע בזמן אמת. שניהם מבוססים חימושים כמו איירבוס, ריינמנטל והסולדט, כמו גם סטארט-אפים טכנולוגיים מיוחדים כמו מערכות קוונטיות והלסיינג מעורבים במכרז שאינו ציבורי.
מושגי האיכות שהוגשו נבדלים במידה ניכרת באיכותם, וכבר ישנם מועדפים לתוספת ההזמנה המוערכת בכ- 80 מיליון יורו. לאחר חופשת הקיץ הפרלמנטרית, התוכנית תוצג בפני מחזיקיו של הבונדסטאג עצמו, כאשר הבונדסווהר מנסה בתחילה לבדוק שני פתרונות מתחרים לפני שתתקבל החלטה סופית.
המערכת אמורה לשמש בחטיבה הגרמנית בליטא משנת 2026 ולפקח על האגף המזרחי של נאט"ו. הגבול לאורך 1600 קילומטרים, הכלול ללא קלינרינגראד מעידה, מייצג אתגר עצום לשיטות מעקב מסורתיות. השימוש ב- AI נועד להפחית משמעותית את עלויות כוח האדם ובמקביל לשפר את איכות המעקב.
תפקוד ומטרות המערכת
מערכת האורנוס נועדה ליצור סוג של עמדת קרב דיגיטלית בה נתונים ממערכות מכ"ם, מל"טים, מצלמות, לוויינים, לייזרים ויחידות סיור אחרות נאספים ומוערכים על ידי AI בזמן אמת. גישה זו נועדה להזהיר כוחות מזוינים גרמניים בשלב מוקדם של איומים פוטנציאליים מצד חיילים רוסים ובכך ליצור יתרון אסטרטגי.
בשלב ראשון, המתכננים הצבאיים עוסקים בעיקר ברכישת מידע ועליונות מנהיגות באמצעות סקירה משופרת של מצב. אולם בעתיד הוא מתוכנן בשלב מאוחר יותר להעביר את הנתונים שנאספו למערכות נשק. מתוכנן מכרז נוסף לשלב שני זה.
ממדים אתיים של AI צבאי
השילוב הגובר של AI במערכות צבאיות מעלה שאלות אתיות מהותיות החורגות הרבה מעבר להיבטים טכניים. יוזמות שונות כבר עסקו בשאלות אלה.
הנייר הלבן מ- Fraunhofer iosb ו- Hensoldt
מכון Fraunhofer לאופטרוניקה, טכנולוגיית מערכות והערכת תמונות (IOSB) וספק פתרון החיישנים Hensoldt פרסמו במשותף מאמר לבן שכותרתו "שיקולים אתיים לשימוש צבאי בבינה מלאכותית בסיור חזותי". מחקר זה בוחן כיצד ניתן ליישם עקרונות אתיים בשימוש צבאי ב- AI ומגיע למסקנה כי שימוש אחראי ב- AI ביישומים צבאיים אפשרי אם נלקחים בחשבון עקרונות אתיים בעקביות.
המחברים מזהים ארבעה עקרונות אתיים מרכזיים:
- הגינות מונעת הטיה לא מכוונת מהנהלי AI
- עקיבות מבטיחה החלטות מובנות
- שקיפות מאפשרת קבלת החלטות ניתנת לאימות אפשרית
- האחריות מבטיחה שאנשים תמיד יישארו המופע האחרון
עקרונות אלה הוחלו על שלושה יישומים מעשיים: פיקוח ימי, הגנה על מחנות שדה צבאיים וחינוך עירוני. תרומה מרכזית למחקר היא לתרום ערכים אירופיים וגרמניים לדיון בעקרונות אתיים לטיפולי AI צבאיים.
מחלוקת אתית בסיסית
אחת השאלות האתיות הבסיסיות ביותר בהקשר של AI צבאי היא האם ניתן להשאיר החלטות לגבי חייו ומותו של אדם למכונה. המבקרים טוענים כי זה מפר את כבוד האדם כאשר החלטות על חיים ומוות מועברות לאלגוריתמים בשדה הקרב. גורם לאנשים להרוג את המלחמה במכונות ו"עבודה דרך "הופכת אנשים באופן אוטומטי לחפצים.
דיון זה נערך על ידי שחקנים שונים, כולל קבוצת העבודה KI & Defense, הקוראת "אסטרטגיית AI צבאית לאומית", אשר, בין היתר, צריכה לכלול הנחיות אתיות לשימוש ב- AI במערכות נשק.
מתאים לכך:
השלכות על מדיניות אבטחה והקשר בינלאומי
פיתוח מערכות AI צבאיות מתרחש בסביבה בינלאומית מורכבת בה מדינות שונות רודפות גישות שונות.
גרמניה בהשוואה בינלאומית
בניגוד לארצות הברית או לצרפת, שכבר הציגו אסטרטגיות AI למערכות נשק, אין הנחיות מחייבות לשימוש צבאי ב- AI בגרמניה. אפילו הטיוטה שאומצה על ידי האיחוד האירופי לחוק AI (חוק בינה מלאכותית) אינה מציעה אוריינטציה מספקת, מכיוון שמערכות AI המפותחות אך ורק למטרות צבאיות אינן נכללות במפורש מההיקף.
ממשל אובמה הגדיר את KI כטכנולוגיית מפתח להבטיח עליונות צבאית. ממשלת טראמפ החליפה אסטרטגיה זו באסטרטגיה צבאית חדשה של AI שכותרתה "רתימת AI לקדם את הביטחון והשגשוג שלנו", שהמטרה העיקרית שלה היא להבטיח את העליונות הצבאית והטכנולוגית של ארה"ב למתחרים אסטרטגיים.
הסיכון ל"שריון AI "
דאגה מרכזית בהקשר של AI צבאי היא הסיכון ל"פיגום AI ". הסכנה האמיתית אינה שמדינה נופלת מאחורי מתחרותיה בהתפתחות AI, אלא שתפיסת גזע עלולה לגרום לכל המדינות להשתמש במערכות AI חסרות ביטחון ובכך לסכן את עצמה ואחרות.
היבט זה מדגיש את הצורך בשיתוף פעולה ובתקנות בינלאומיות כדי להבטיח שמערכות AI ישמשו בבטחה ואחריות באזור הצבאי.
דרישות טכניות ומבני אחריות
הבונדסווהר מציב דרישות ספציפיות למערכות AI צבאיות המובילות בחשבון היבטים טכניים וגם אתיים.
דרישות למערכות AI צבאיות
עבור "אורנוס קי", הבונדסווהר דורש ארכיטקטורת מערכת פתוחה עם ממשקים סטנדרטיים כדי לאפשר הרחבות עתידיות. בנוסף, הפיתרון עם הדיגיטציה הגדולה של הפרויקט הגדול של פעולות מבוססות קרקע (DLBO) חייב להיות תואם.
באופן כללי, מערכות AI צבאיות חייבות להיות בעלות הנכסים הבאים:
- מודולריות ויכולת לשלב: יש לתכנן מערכות AI באופן שניתן להתאים אותן לאיומים חדשים וניתן להחליף אותם במהירות במידת הצורך.
- אבטחה ושקיפות: מערכות AI חייבות לעמוד במבחני אבטחה ושקיפות מראש, כך שניתן יהיה לשלול ברובם מניפולציות או פערי אבטחה.
- נורמות אתיות וחוקיות: השימוש ב- AI חייב להתבצע תמיד בהתאם לתקני המשפט האתי והבינלאומי.
תפקיד האדם
עיקרון חוזר בכל הדיונים על AI צבאי הוא הדגש על השליטה האנושית. בהנחייתו 3000.09, למשל, פנטגון דיבר בבירור נגד השימוש במערכות נשק מלאות-אוטונומיות בצבא ודורש שאדם תמיד צריך להיות "בלולאה".
מודגש גם לפרויקט "אורנוס קי" כי כוח ההחלטה -על קבלת ההחלטה צריך להישאר בבני אדם בעת שימוש במערכות נשק. ה- AI נועד לשמש ככלי מייעץ, המציג אפשרויות ומאיץ את עיבוד הנתונים, בעוד שההחלטה האולטימטיבית מתקבלת תמיד על ידי אדם.
Bundeswehr ומחקר: שיתוף פעולה עבור AI אחראי
פיתוח מערכות AI צבאיות דורש שיתוף פעולה הדוק בין שחקנים שונים מהצבא, המחקר והתעשייה.
שותפויות אסטרטגיות
הבונדסווהר מסתמך על שותפויות אסטרטגיות עם מכוני מחקר ותעשייה בפיתוח טכנולוגיות AI. השותפים החשובים ביותר כוללים את מכון Fraunhofer, מרכז האווירה הגרמני (DLR), אוניברסיטאות בונדסווהר במינכן ובהמבורג וכן סטארט-אפים חדשניים.
יחד עם מכון Fraunhofer, למשל, בונדסווהר פיתחה מערכת ניקוד שמראה עד כמה ה- AI בטוחה בהחלטותיו. אוניברסיטאות Bundeswehr ממלאות תפקיד מרכזי בפיתוח אבות -טיפוס של AI ומשתפים פעולה מקרוב עם המשרד הפדרלי לציוד, טכנולוגיית מידע ושימוש ב- Bundeswehr (Baainbw).
פרויקטים מחקריים קונקרטיים
בנוסף ל"אורנוס קי ", ישנם פרויקטים מחקריים אחרים בתחום ה- AI הצבאי, כמו פרויקט" גאון ", בו מל"טים עם AI וחיישנים מתקדמים אמורים לאתר איומים כמו חומרי נפץ מאולתרים ומכרות אדמה.
פרויקטים אלה מבהירים כי הבונדסווהר קשור יותר ויותר למערכות מבוססות AI על מנת לחדש את כישורי ההגנה שלו ולהסתגל לאתגרי המאה ה -21.
בין חדשנות לאחריות
פרויקט בונדסווהר "אורנוס קי" הוא דוגמא לאתגרים וההזדמנויות הקשורים לשימוש בבינה מלאכותית בתחום הצבאי. מצד אחד, KI מציעה פוטנציאל להגדיל משמעותית את היעילות של הפעולות הצבאיות, להגביר את הבטיחות של כוחותיך שלך ולאפשר החלטות מדויקות יותר. מצד שני, היא מעלה שאלות אתיות, משפטיות וביטחוניות בסיסיות הדורשות בחינה מדוקדקת.
ה- Bundeswehr זקוק בדחיפות למסמך הנחיה המסדיר את האחריות עם AI ואוטומציה. זה אמור לא רק להגדיר סטנדרטים טכניים, אלא גם לקבוע עקרונות אתיים וליצור מבני אחריות ברורים.
אין להזניח את הממד הבינלאומי. "מטרה לאומית" בוויסות מערכות AI צבאיות לא תהיה מועילה לאור האופי הגלובלי של טכנולוגיה זו. במקום זאת, תיאום הדוק עם בעלי ברית וארגונים בינלאומיים נדרש לפתח סטנדרטים נפוצים ולמנוע "מערך AI" פוטנציאלי.
בסופו של דבר, האתגר של הבונדסווהר והפוליטיקה הגרמנית הוא להתעדכן בהתפתחות הטכנולוגית מבלי להזניח עקרונות ביטחוניים, משפטיים ומוסריים. בהקשר זה, פרויקט "אורנוס קי" יהיה מקרה מבחן חשוב שיראה באיזו מידה גרמניה מסוגלת ליישב בין חדשנות צבאית ואחריות אתית.
מתאים לכך:
טרנספורמציית AI שלך, שילוב AI ומומחה לתעשיית הפלטפורמה AI
☑️ השפה העסקית שלנו היא אנגלית או גרמנית
☑️ חדש: התכתבויות בשפה הלאומית שלך!
קונרד וולפנשטיין
אני שמח להיות זמין לך ולצוות שלי כיועץ אישי.
אתה יכול ליצור איתי קשר על ידי מילוי טופס יצירת הקשר או פשוט להתקשר אליי בטלפון +49 89 674 804 (מינכן) . כתובת הדוא"ל שלי היא: וולפנשטיין ∂ xpert.digital
אני מצפה לפרויקט המשותף שלנו.
