ריבונות נתונים, הגדרה עצמית ומציאות של ניהול פלטפורמות המונע על ידי בינה מלאכותית

### קליק אחד, הכל נעלם: הכאוס השקט של מתון פלטפורמות המונע על ידי בינה מלאכותית ### מפעל החיים נהרס על ידי בינה מלאכותית: מדוע חשבון המדיה החברתית שלך עלול פשוט להיעלם מחר ### האשליה הגדולה של ריבונות נתונים: כיצד אלגוריתמים שולטים בנו בסתר ### למרות חוקי האיחוד האירופי החדשים: מדוע חברות טכנולוגיה עדיין רשאיות למחוק באופן שרירותי ###

אלגוריתם שיפוט: כאשר בינה מלאכותית מסיימת את חייך הדיגיטליים - ואף אחד לא אחראי

אנו חיים בתקופה שבה מונחים כמו "ריבונות נתונים" ו"הגדרה עצמית דיגיטלית" אינם רק סיסמאות פוליטיות, אלא מייצגים את שאיפותיה של חברה שלמה. בעזרת חוקים כמו חוק השירותים הדיגיטליים, אירופה מנסה לבנות חומת מגן מפני פעולות שרירותיות של חברות טכנולוגיה גלובליות ולהגן על זכויות היסוד של אזרחיה בתחום הדיגיטלי. אך בעודנו דנים בסעיפים משפטיים ותקנות, מציאות מתגלה ממש לנגד עינינו, אשר לועגת למטרות נשגבות אלה. מציאות שבה קיומם הדיגיטלי של אנשים נהרס בלחיצת כפתור - לא על ידי אדם, אלא על ידי אלגוריתם אטום.

בכל יום, חשבונות מושעים וערוצים נמחקים בפלטפורמות כמו יוטיוב, טיקטוק ואינסטגרם - ערוצים שמשתמשים בנו בקפידה במשך שנים. מפעל חייהם הדיגיטלי נעלם, לעתים קרובות ללא הצדקה ברורה, ללא שימוע הוגן וללא דרך יעילה לערער על ההחלטה. יותר ויותר, זה נובע מניהול מבוסס בינה מלאכותית, שהוא מועד לטעויות, אטום, אך בעל הכוח האולטימטיבי לשפוט את הנראות והקיום הדיגיטלי. המקרה של היוטיובר הטכנולוגי אנדרמן, שערוצים שלו עם מאות אלפי מנויים נמחקו על סמך קשר אבסורדי שלכאורה נוצר על ידי בינה מלאכותית, הוא רק קצה הקרחון. מאמר זה בוחן את התהום העמוקה בין הרצון שלנו לשליטה לבין הכוח הבלתי מבוקר של אלגוריתמים, שהפכו מזמן לשופטים ומוציאים לפועל במרחב הציבורי הדיגיטלי שלנו.

היכן נמצא הסתירה בין השאיפה שלנו למציאות שלנו?

אנו מדברים ללא הרף על ריבונות נתונים והגדרה עצמית דיגיטלית. מונחים אלה הפכו לסימני ההיכר של תרבות בטוחה בעצמה ועצמאית, תרבות שנועדה להציג את הטיפול שלה בבינה מלאכותית כסימן לבגרותה. האיחוד האירופי יצא להגן על אזרחיו מפני פעולות שרירותיות של תאגידי טכנולוגיה גלובליים באמצעות חוקים כמו חוק השירותים הדיגיטליים וחוק השווקים הדיגיטליים. תקנות נחקקו כדי לאכוף שקיפות ולהגן על זכויות יסוד. אבל עם כל הצטברות הרגולציה הזו, אנו מתעלמים ממשהו מהותי: לא התייחסנו לאיום הקיומי שמתגלה מדי יום לנגד עינינו ופוגע באמינותם של כל המאמצים הללו.

המציאות שערוצי המדיה החברתית הגדולים מציגים לנו מדי יום מספרת סיפור שונה מאוד מזה של ריבונות נתונים והגדרה עצמית. אנשים מאבדים את מפעל חייהם הדיגיטלי מדי יום, ללא הצדקה או מנגנונים כלשהם כדי להתמודד איתם. ערוצים שנבנו בקפידה במשך שנים נמחקים. לא לאחר בדיקה מדוקדקת, לא לאחר תהליכים שקופים, לא לאחר אפשרות של שימוע הוגן. פשוט נמחקים. וזה קורה בצורה שאינה ראויה לדמוקרטיה, משום שאין מנגנוני ערעור יעילים ואלה שנפגעו אפילו לא יודעים מדוע זמנם ויצירתיותם בוזבזו.

אילו דוגמאות ספציפיות מדגימות את השרירותיות הזו?

הדוגמה האחרונה והבולטת ביותר היא המקרה של היוטיובר הטכנולוגי אנדרמן. יוצר התוכן הרוסי בנה ערוץ יוטיוב ראשי עם למעלה מ-350,000 מנויים, שם חקר נושאים טכנולוגיים. התוכן שלו היה בעל ערך מבחינה תיעודית - הוא עסק בגרסאות ישנות יותר של Windows ובבעיות טכניות אחרות. ערוץ זה נמחק ללא אזהרה. זמן קצר קודם לכן, הערוץ המשני שלו, אנדרו, גם הוא עם מאות אלפי מנויים, נעלם. הסיבה המוצהרת לצעד הדרסטי הזה הייתה ביזארית: יוטיוב טענה כי ערוציו של אנדרמן היו מחוברים לערוץ יפני שקיבל את פסילת זכויות היוצרים השלישית שלו. ערוץ שאנדרמן אינו מכיר, בשפתו הוא אינו מתקשר, ואיתו אין לו קשר.

מה שמדהים במקרה הזה הוא לא רק חוסר הצדק של ההחלטה עצמה, אלא גם האופן שבו היא התקבלה. אנדרמן רמז שמערכת בינה מלאכותית עומדת מאחוריה, לאחר שיצרה קשר פגום בין ערוציו לחשבון יפני לא ידוע. תקוותו של היוטיובר הטכנולוגי שעובד יוטיוב אנושי יבחן את תלונתו נכזבה. חודשים חלפו ללא תגובה. כעת נראה שאנדרמן השלים עם העובדה שזמנו ביוטיוב הסתיים. יוטיובר אחר דיווח על בעיות זהות באותו שרשור טוויטר - גם הערוץ שלו נמחק בהתייחסו לאותו ערוץ יפני. זה מצביע על כשל מערכתי, לא מקרה בודד של טעות אנוש, אלא על ליקויים של מערכת אוטומטית הפועלת ללא פיקוח.

יוטיוב אינו מקרה בודד. פלטפורמות שונות הציגו דפוסים דומים. טיקטוק, אינסטגרם, פייסבוק ושירותים אחרים מוחקים תוכן ומשעים חשבונות מדי יום, לעתים קרובות ללא הצדקה מספקת. ארגון השקיפות Freiheitsrechte.org תיעד כי פלטפורמות מדיה חברתית מספקות לעתים קרובות הסברים לא מספקים להחלטות הניהול שלהן לנפגעים. במקרים מסוימים, ההצדקות מתייחסות באופן כללי רק להפרה של תנאי השירות, מבלי להסביר איזו הפרה ספציפית הובילה לפעולה.

האם חברות הטכנולוגיה עומדות באחריות החברתית שלהן?

זוהי נקודה קריטית שבה עלינו לתקן את ההטיות הקוגניטיביות שלנו. חברות הטכנולוגיה הגדולות מרוויחות באופן מובהק מהנתונים שלנו, מהפעילות הכלכלית שלנו ומהחברה שלנו. הן משתמשות באינטרנט המשותף שלנו כבסיס העסקי שלהן. הן מרוויחות מיליארדים מהכנסות מפרסום שנוצרות מתשומת הלב שלנו ומהנתונים האישיים שלנו. במקביל, תאגידים אלה נוטלים בפועל על עצמם אחריות ציבורית וחברתית.

יוטיוב אינו רק שירות טכני כמו ספק אירוח רגיל. הפלטפורמה הפכה לתשתית של תקשורת ציבורית. היא קובעת את הנראות, טווח ההגעה והגישה של מיליוני אנשים. היא התבססה בתפקיד שומר הסף של מידע וידע. פייסבוק ואינסטגרם דומים - שירותים אלה הפכו למוקדים מרכזיים לשיח חברתי. עבור אנשים רבים, פלטפורמות אלה הן המקום העיקרי להשמיע את קולם, לבנות את קהילותיהם ולהפיץ את מסרם.

אבל בעוד שחברות הטכנולוגיה הללו מרוויחות כלכלית מתפקידן כמתווכים של תקשורת חברתית, הן מתחמקות מהאחריות הטמונה בתפקיד זה. ארגון צדקה שהוזמן על ידי המדינה לבצע משימות תמורת תשלום אינו יכול פשוט להדיר קולות מתנגדים משום שהם לא אוהבים מישהו. רשות שידור ציבורית אינה יכולה פשוט להשתיק אנשים מבלי לשמוע את הצד שלהם בסיפור. בית משפט אינו יכול פשוט להרשיע מישהו מבלי לתת לו את ההזדמנות להגן על עצמו.

אך זה בדיוק מה שקורה בפלטפורמות האלה מדי יום. אנשים מודרים ללא כל הצדקה של ממש. עבודתם נמחקת. מקורות פרנסתם נהרסים ברשת. והתגובה היחידה של הפלטפורמות היא התייחסות לתנאי השירות שלהן, ובמקרה הטוב, מערכת תלונות אוטומטית שכמעט ולא פותרת בעיות. זה לא רק לא צודק; זה מסוכן מבחינה מבנית לחברה פתוחה.

כאן תלמדו כיצד החברה שלכם יכולה ליישם פתרונות בינה מלאכותית מותאמים אישית במהירות, בצורה מאובטחת וללא חסמי כניסה גבוהים.

פלטפורמת בינה מלאכותית מנוהלת היא חבילה מקיפה ונטולת דאגות עבורכם לבינה מלאכותית. במקום להתמודד עם טכנולוגיה מורכבת, תשתית יקרה ותהליכי פיתוח ארוכים, אתם מקבלים פתרון מוכן לשימוש המותאם לצרכים שלכם משותף מתמחה - לעתים קרובות תוך מספר ימים.

היתרונות המרכזיים במבט חטוף:

⚡ יישום מהיר: מרעיון ליישום תפעולי תוך ימים, לא חודשים. אנו מספקים פתרונות מעשיים היוצרים ערך מיידי.

🔒 אבטחת מידע מקסימלית: המידע הרגיש שלך נשאר אצלך. אנו מבטיחים עיבוד מאובטח ותואם ללא שיתוף מידע עם צדדים שלישיים.

💸 אין סיכון פיננסי: אתם משלמים רק על תוצאות. השקעות גבוהות מראש בחומרה, תוכנה או כוח אדם מבוטלות לחלוטין.

🎯 התמקדו בעסק הליבה שלכם: התרכזו במה שאתם עושים הכי טוב. אנו מטפלים בכל היישום הטכני, התפעול והתחזוקה של פתרון הבינה המלאכותית שלכם.

📈 עתיד-מוכן וניתן להרחבה: הבינה המלאכותית שלכם גדלה איתכם. אנו מבטיחים אופטימיזציה וגמישות מתמשכת, ומתאימים את המודלים לדרישות חדשות באופן גמיש.

עוד על זה כאן:

• פלטפורמת בינה מלאכותית מנוהלת

כיצד השימוש בבינה מלאכותית משנה את הבעיה?

כאן, המצב מחמיר באופן דרמטי. חברות טכנולוגיה משתמשות יותר ויותר במערכות אוטומטיות כדי לנהל תוכן ולקבל החלטות. מערכות בינה מלאכותית אלו אינן שקופות. הן אינן נבדקות באופן קבוע. ומעל הכל: הן גם עושות טעויות עם השלכות עצומות. מקרה אנדרמן הוא רק אחת מדוגמאות רבות לאופן שבו ניהול תוכן המונע על ידי בינה מלאכותית מוביל לתוצאות אבסורדיות או מזיקות.

זה התבלט במיוחד במהלך מגפת הקורונה. כאשר בודקים אנושיים לא היו זמינים, פלטפורמות המדיה החברתית העבירו באופן מסיבי את ניהול התוכן שלהן למערכות אוטומטיות. התוצאה הייתה גל של החלטות גרועות. סרטונים שלא הפרו את ההנחיות נמחקו. תוכן לגיטימי נעלם. משתמשים הפכו מתוסכלים משום שהפלטפורמות לא יכלו לעמוד בהבטחותיהן.

המגבלות של ניהול תוכן מבוסס בינה מלאכותית הן מהותיות. בינה מלאכותית מתפקדת באופן אמין רק כאשר קיימים מספיק נתוני אימון. מצבים רבים מורכבים ואי אפשר לסווג אותם בקלות. לביטוי כמו "אכלתי פסטה הערב" הייתה משמעות כפולה בטיקטוק - פשוטו כמשמעו, הוא התייחס לצריכת מזון, אך בהקשר של טרנד, הוא סימן מחשבות אובדניות. אלגוריתם טיקטוק לא הצליח לתפוס את הניואנסים הללו ובמקום זאת הזין את הטרנד.

יתר על כן, שיעור השגיאות הוא שיטתי. מחקר של איגוד השידור האירופי הראה כי בצ'אטבוטים מבוססי בינה מלאכותית הייתה לפחות בעיה משמעותית אחת ב-45 אחוזים מכלל התשובות לשאלות על אירועים אקטואליים, בעיה שעלולה להטעות את הקוראים. ב-81 אחוזים מהתוצאות נמצאה שגיאה כלשהי. זה לא יוצא מן הכלל; זה הכלל.

אך מערכות אלו, המועדות לטעויות ואטומות מאוד, משמשות להכרעת גורלם של חייהם הדיגיטליים של מיליוני אנשים. סרטון נמחק. ערוץ מושבת. חברה מוסרת מהפלטפורמה. וההחלטה התקבלה על ידי מערכת שמשתמשים אינם יכולים להבין, שאינה אחראית, ומורשת לקבל החלטות שגויות ללא עונש.

היכן מוטלת האחריות של המדינה?

המדינה לא פשוט עוצמת עין. גרוע מכך, המדינה, שיש לה את הכוח לתקן את המצב הזה, דווקא עושה בירוקרטיה ונסחפת בפרטים הקטנים. יש כללים - זה נכון. חוק השירותים הדיגיטליים של האיחוד האירופי קובע כי פלטפורמות חייבות להיות שקופות. הוא דורש מהמשתמשים להיות זכות להתלונן. הוא קובע כי פלטפורמות גדולות מאוד חייבות לחשוף את המערכות שלהן ואת ההחלטות שלהן. כל זה נשמע טוב ונכון על הנייר.

עם זאת, אכיפת כללים אלה מקוטעת. סוכנות הרשתות הפדרלית בגרמניה קיבלה על עצמה את תפקיד מתאם השירותים הדיגיטליים וכעת היא אחראית לאכיפת כללים אלה. אך האם לסוכנות זו יש מספיק משאבים? האם יש לה מספיק כוח? האם רשויות לאומיות בודדות באמת יכולות לנקוט פעולה נגד חברות טכנולוגיה גלובליות המתחמקות מאחריותן באמצעות עורכי דין ולובינג?

יתר על כן, ישנה בעיה עמוקה יותר. במשך זמן רב מדי, המדינה אפשרה לתאגידים פרטיים למלא בו זמנית את תפקידי שומר הסף, השופט והמושבעים. תאגידים אלה מחליטים מה נכון ומה לא נכון בפלטפורמות שלהם. הם גוזרים פסקי דין. הם אוכפים גזרי דין. והם אינם אחראים לאף אחד. זה לא רק פגם רגולטורי. זהו כישלון מהותי של הדמוקרטיה.

במשך זמן רב, ההנחה הייתה ששווקים מווסתים את עצמם, שפלטפורמות יפעלו מתוך מוניטין ואינטרס אישי. הנחה זו הוכחה כשגויה מיסודה. הפלטפורמות ממטבות את עצמן למען מעורבות והכנסות מפרסום, ולא למען הוגנות. הן מפעילות מערכות בינה מלאכותית זולות יותר מאשר ניהול אנושי, למרות שמערכות אלו נוטות לטעויות. וכאשר מתרחשת שגיאה, הן יכולות להטיל את האשמה על אלגוריתם שכביכול קיבל החלטה אוטונומית.

מה יידרש כדי לשנות את המצב הזה?

ראשית, יש להבהיר כי הפלטפורמות העיקריות אינן רק חברות פרטיות שאין למדינה שום אמירה לגביהן. חברות אלו ממלאות תפקידים ציבוריים. הן מתווכות של השיח הציבורי. הן נטלו על עצמן משימה חברתית, בוודאי עם רווח כלכלי, אך בכל זאת עם אחריות חברתית.

משמעות הדבר היא שעקרונות יסוד של שלטון החוק חייבים לחול על החלטות מתינות, במיוחד צעדים דרסטיים כגון השעיות או מחיקות. משמעות הדבר היא שקיפות מלאה בנוגע לסיבות להחלטה. משמעות הדבר היא הזכות לשימוע הוגן לפני נקיטת צעדים דרסטיים. משמעות הדבר היא זכות אמיתית לערער, ​​לא מערכת תלונות אוטומטית שאינה יעילה בפועל. משמעות הדבר היא ביקורת אנושית, במיוחד במקרים הקשורים לאלגוריתם.

יתר על כן, יש צורך להציב גבולות לניהול מבוסס בינה מלאכותית. אם מערכת היא בעלת פוטנציאל לטעויות ויכולה להשפיע על מיליוני אנשים, אדם חייב להיות מעורב תמיד. תקנות האיחוד האירופי מצביעות בכיוון זה, אך האכיפה לוקה בחסר. פלטפורמות מוצאות כל הזמן דרכים לעקוף או לערער את הכללים הללו.

נדרש גם שינוי מבני באחריותיות. יש להטיל אחריות על הפלטפורמות להחלטות של המערכות שלהן. לא אחריות מטאפורית, אלא אחריות משפטית. אם ערוץ נמחק שלא כדין, יש לחייב את הפלטפורמה לשלם פיצויים. זה ישנה את התמריצים. פתאום, לא יהיה יותר זול להשתמש במערכת אוטומטית פגומה. פתאום, יהיה מחיר לפגיעה שלא בצדק באנשים.

עבור אנדרמן, משמעות הדבר הייתה שיוטיוב לא יכלה פשוט למחוק את הערוץ שלו בגלל שמערכת בינה מלאכותית יצרה חיבור לקוי לחשבון יפני. הייתה צריכה להיערך בדיקה. הייתה צריכה להיות הזדמנות להגיב. ואם השגיאה לא התגלתה, יוטיוב הייתה יכולה להיות אחראית.

מה יקרה אם הבעיות הללו לא ייפתרו?

התשובה הרסנית. אם נאפשר למערכות בינה מלאכותית להחליט באופן שרירותי על קיומם הדיגיטלי של אנשים, אז הכאוס לא יגיע עם הבינה המלאכותית - הכאוס כבר כאן. הוא רק יתעצם. כי ככל שהמערכות הללו הופכות לחכמות יותר, כך נבין אותן פחות. וככל שנבין אותן פחות, כך נוכל לשלוט בהן פחות.

גרוע מכך: הבעיה תגדל באופן אקספוננציאלי. השימוש בבינה מלאכותית בניהול תוכן יתעצם. המערכות יהפכו למורכבות יותר. שיעורי השגיאות עשויים לרדת או לעלות - איש אינו יודע בוודאות. אבל מה שמובטח הוא שמיליוני, ובקרוב מיליארדי, אנשים יושפעו מהחלטות שהם לא מבינים, לא יכולים לערער עליהן, ושאין עליהן אחריות.

ובזמן שזה קורה, המדינה מסתכלת הצידה. סוכנות הרשתות הפדרלית מתווה את אחריותה. האיחוד האירופי מחוקק חוקים. אבל האכיפה היא חסרת משמעות. הרשויות סובלות ממחסור במשאבים. הפלטפורמות משלמות קנסות שהם רק עודף כסף עבורן ולא באמת משנות את נוהליהן. הסטטוס קוו נמשך: חברות טכנולוגיה פועלות כשליטים בלתי מבוקרים של המרחב הציבורי הדיגיטלי.

מה שמדהים במצב הזה הוא שניתן למנוע אותו. קיימים פתרונות. ישנן דרכים להפוך את ריבונות הנתונים וההגדרה העצמית הדיגיטלית למציאות, לא רק מטרות נורמטיביות. אבל כדי שזה יקרה, המדינה תצטרך לנטוש את אדישותה. היא תצטרך להכיר בכך שזו לא רק בעיה רגולטורית, אלא חוסר איזון בכוח. לחברות טכנולוגיה יש כוח. עליהן לרתום את הכוח הזה לטובת החברה, או שהוא חייב להילקח מהן.

עד אז, מקרים כמו של אנדרמן נותרים סימפטומטיים למערכת שאינה עובדת. אדם מאבד את מפעל חייו. איש אינו יכול לעזור לו. והמכונה שהרסה את מפעל חייו ממשיכה לפעול ללא הפרעה, בוחנת מקרים חדשים, קובעת פסקי דין חדשים, והמדינה מתעדת את הכל בתיקים מנהליים בעוד העשן עולה.

אני שמח לעזור לך כיועץ אישי.

קשר תחת וולפנשטיין ∂ xpert.digital

התקשר אלי מתחת +49 89 674 804 (מינכן)

לינקדאין