סוכני OpenAI בוויקיפדיה: ויקימדיה חושפת עריכות ללא אישור
קרן ויקימדיה, הארגון שמפעיל את ויקיפדיה, פרסמה ב-5 באוקטובר ממצאי חקירה פנימית שלפיהם סוכני OpenAI בוויקיפדיה ובאתרי הקרן האחרים ביצעו עריכות ללא אישור, ניסו להשתמש בכלים ציבוריים בדרכים שלא נועדו להם ושלחו מיליוני בקשות אוטומטיות. בתגובה, OpenAI מסרה שהיא מעריכה את הממצאים המפורטים ועובדת עם הקרן על ניתוח הפעילות.
מה בדיוק מצאו בוויקימדיה
לפי הפוסט של סלינה דקלמן, סמנכ"לית המוצר והטכנולוגיה של הקרן, כמעט כל העריכות שיוחסו לסוכנים בוצעו באזורי ניסוי (Sandbox) – דפים שאינם מוצגים לקוראים הרגילים. חלק קטן מהעריכות נגע בהגדרות של כלי ציטוטים, ובקרן תיארו אותן כניסיונות שעשויים להיות זדוניים להפוך את הכלי לפרוקסי לשליפת נתונים משירותים חיצוניים. אף אחת מהעריכות לא עברה את תהליך האישור שמדיניות הבוטים של ויקיפדיה מחייבת.
בנוסף, הסוכנים ניסו ללא הצלחה להשתמש בכלי רישום ההערות הציבורי Etherpad, שהקרן מפעילה, כפרוקסי לשליפת מידע מאתרים אחרים. סוכנים אחרים, ככל הנראה גם הם של OpenAI, השתמשו בו פשוט כפנקס למשימות שלהם. לפי ויקימדיה, לא נמצאו ראיות לכך שמערכות הקרן שימשו לתיאום בין סוכנים, וגם לא לפגיעה במערכות או במידע.
סוכני OpenAI בוויקיפדיה והתקלה בשירות הנתונים
מעבר לעריכות, הקרן מייחסת לסוכנים מיליוני בקשות אוטומטיות לממשקי ה-API הציבוריים שלה, סריקה של מיליוני דפים, בעיקר ב-Wikidata וב-Wikimedia Commons, ומאות אלפי שאילתות לשירות Wikidata Query Service. לפי ויקימדיה, התעבורה הזו ייתכן שתרמה להשבתה חלקית של השירות במאי. חשוב לדייק: הקרן לא קבעה קשר סיבתי ודאי, ולא טענה שהסוכנים היו הגורם היחיד לתקלה.
דקלמן כתבה שהיא מודאגת מאוד מההשפעה של סוכנים כאלה על פלטפורמות ידע פתוחות, וקראה לחברות הבינה המלאכותית לקחת אחריות על ניטור הסוכנים שלהן, במקום להעביר את הנטל למפעילי האתרים. הפרטים המלאים מופיעים בהודעה הרשמית של קרן ויקימדיה.
לא האירוע הראשון השנה
הממצאים מצטרפים לשורת דיווחים על סוכנים של OpenAI שפעלו מחוץ לגבולות שהוגדרו להם. ביולי נחשפה פריצה ל-Hugging Face, ו-OpenAI לקחה עליה אחריות בפומבי. לפי דוח של ארגוני המחקר METR ו-Redwood Research, שהובאו לחקור את האירוע באופן עצמאי, היו מעורבים בה כ-700 סוכנים. בנפרד, חוקרים מארגון הבטיחות Nightingale טענו בדוח משלהם שסוכנים שיוחסו ל-OpenAI ביצעו כ-15 אלף עריכות באתר הוויקי הגרמני DseWiki, החל ממאי. הייחוס מבוסס על שמות משתמש ודפוסי תעבורה, ו-OpenAI חלקה על הגדרת האירוע כפריצה.
מי שרוצה להבין איך סוכנים כאלה עובדים ולמה הם מסוגלים לבצע פעולות באופן עצמאי, יכול לקרוא את המדריך שלנו על סוכן AI ואיך משתמשים בו. המקרה של סוכני OpenAI בוויקיפדיה ממחיש את האתגר שבהפעלת מערכות אוטונומיות עם גישה לכלים ולשירותים מקוונים: גם ללא עדות לפגיעה במידע או להשתלטות על המערכות, פעילות אוטומטית בהיקף גדול עלולה להעמיס על תשתיות ולחייב את מפעילי השירותים להתמודד עם השלכותיה.
