מוצרים / Impact Assessment
DNLA Impact Assessment
בפיתוחAI Impact Assessment מובנה שמופק לפני פריסה, או אחרי שינוי משמעותי במערכת חיה. הוא רלוונטי במיוחד למערכות בשימוש ב-HR, אשראי, ביטוח, שירותים ציבוריים, בריאות, חינוך, והקשרי קבלת החלטות אחרים שבהם הפלט של מערכת AI משפיע על אדם אמיתי.
למה זה חשוב עכשיו
הרגולציה משיגה את מה שהמערכות האלה כבר עושות
נתח הולך וגדל מפריסות ה-AI נמצא כיום בקטגוריות שרגולטורים מכנים במפורש high-risk: מערכות שמשפיעות על תעסוקה, אשראי, ביטוח, קצבאות, בריאות, או תוצאות חינוכיות עבור אנשים אמיתיים. ה-EU AI Act וגל של כללים לאומיים וסקטוריאליים מתכנסים לאותה ציפייה: שארגונים יוכלו להראות, בכתב, שהם הבינו על מי המערכת משפיעה ואיך, לפני שהשיקו אותה. Impact Assessment הוא האופן שבו זה מודגם, במקום נטען בדיעבד.
מה זה בוחן
עשר שאלות על מי המערכת נוגעת בו
- מי מושפע מהמערכת
- אילו החלטות היא בפועל מקבלת
- כמה חמורה יכולה להיות טעות
- האם קיימת דרך לערער על החלטה
- איזה תפקיד ממלא אדם בלולאה
- האם אפליה סבירה
- אילו נתונים נאספים
- עד כמה המערכת שקופה בפועל
- מה קורה אם היא מפסיקה לעבוד
- האם קיים fallback ידני
התאמה לתקנים
בנוי לכיוון מסגרת מוכרת, לא סקירה אתית מעורפלת
ISO/IEC 42005 כבר מגדיר מסגרת להערכת ההשפעה של מערכות AI על אנשים וחברה, מה שאומר שהמוצר הזה מיועד להתמפות בסופו של דבר לתקן מוכר, במקום להישאר דעה לא פורמלית. ל-DNLA עדיין אין גישה מוסמכת לתקן הזה, וזו הסיבה ש-Impact Assessment כרגע בפיתוח. צרו קשר אם תרצו לקבל עדכון כשהוא יהיה מוכן.
מתאים במיוחד עבור
- HR: סינון, ניקוד, או דירוג מועמדים ועובדים
- אשראי וביטוח: החלטות תמחור, חיתום, וזכאות
- שירותים ציבוריים: החלטות זכאות, קצבאות, ואכיפה
- בריאות: מיון, תמיכה באבחון, והמלצות טיפול
- חינוך: קבלה, תמיכה בציונים, ופיקוח על בחינות
- כל מערכת שהפלט שלה משנה מה קורה לאדם ספציפי
בונים מערכת שמשפיעה על החלטות אמיתיות לגבי אנשים?
הירשמו לעדכון ונחזור אליכם כש-Impact Assessment יהיה זמין.