אינטליגנציה מלאכותית חובה — מתכננים להטיל סינון חובה של אינטליגנציה מלאכותית כחובה קריטית עבור חברות המבקשות חוזים רווחיים עם ממשלת ארצות הברית. זאת לאחר שקבוצה ארגונית קוראת לממשל טראמפ לבחון מודלים מתקדמים של אינטליגנציה מלאכותית עבור איומי ביטחון אפשריים לפני השחרור הציבורי שלהם.
- בהמשך לדיונים סביב נקודת המפגש בין אינטליגנציה מלאכותית לביטחון לאומי, התוצאות של הצעות אלה עשויות לעצב את נוף פיתוח האינטליגנציה המלאכותית ויישומה בפרויקטים ממשלתיים.
אינטליגנציה מלאכותית חובה: חששות לגבי מודלים של אינטליגנציה מלאכותית וביטחון לאומי
הבית הלבן בוחן כעת את ההשלכות של מודל האינטליגנציה המלאכותית Mythos של חברת Anthropic, שלפי הדיווחים נעשה בו שימוש לפישוט התקפות סייבר מורכבות. יכולת זו מעלה חששות משמעותיים לביטחון לאומי, ומניעה את ארגון Americans for Responsible Innovation לדחוף לתהליך בדיקה קפדני.
תהליך בדיקה מוצע למפתחי אינטליגנציה מלאכותית
במכתב לפקידי הממשל, הקבוצה הארגונית הדגישה את הצורך בפיתוח שיטות שיטתיות כדי להעריך את מודלי האינטליגנציה המלאכותית שמתקרבים לגבולות הטכנולוגיה. סקירה זו שואפת לזהות כל יכולת שיכולה לסייע בהתקפות סייבר או לתרום לפיתוח נשק.
קריטריונים לזכאות לחוזים ממשלתיים
ההנחיות המוצעות יחייבו חברות לעבור סקירה זו כדי לזכות בחוזים ממשלתיים. בפרט, ארגונים שמוציאים מעל 100 מיליון דולר בשנה על משאבי חישוב לאימון מודלים מתקדמים, או שמייצרים לפחות 500 מיליון דולר בהכנסות ממוצרים ושירותים הקשורים לאינטליגנציה מלאכותית, יהיו כפופים לדרישות אלה.
תפקיד מרכז התקנים והחדשנות לאינטליגנציה מלאכותית של ארה"ב
מרכז התקנים והחדשנות לאינטליגנציה מלאכותית (CAISI) של ארה"ב עורך כיום ביקורות על מודלי אינטליגנציה מלאכותית מסוימים באמצעות הסכמים התנדבותיים עם מפתחים מרכזיים כמו OpenAI, Anthropic, Google, Microsoft ו-xAI. הקבוצה הארגונית מציעה ש-CAISI ינקט בשיטה יזומה בהקמת תהליכי סינון חובה, ולהבטיח שרק טכנולוגיות אינטליגנציה מלאכותית בטוחות יוכלו לפעול בשיתוף עם פעילויות ממשלתיות.
קריאה לפעולה מחוקקת
בנוסף, הקבוצה דורשת מהקונגרס להקים משרד אכיפה קבוע במחלקת המסחר של ארה"ב. משרד זה יהיה אחראי על אכיפת דרישות הבדיקה המוצעות, ובכך יחזק את ביטחון החוזים הממשלתיים המעורבים בטכנולוגיות מתקדמות של אינטליגנציה מלאכותית.
בהמשך לדיונים סביב נקודת המפגש בין אינטליגנציה מלאכותית לביטחון לאומי, התוצאות של הצעות אלה עשויות לעצב את נוף פיתוח האינטליגנציה המלאכותית ויישומה בפרויקטים ממשלתיים.
