AI משנה את המוצר.
וגם את המפה המשפטית.

מה נכנס למודל ומה יוצא ממנו?

הבדיקה מתחילה בפרומפטים, קבצים, הקלטות ומידע שנשלחים למערכת. צריך לזהות אם יש מידע אישי, מידע רגיש, סודות מסחריים או מידע של צדדים שאינם המשתמש עצמו. לאחר מכן בודקים מה הספק שומר, האם המידע משמש לשיפור השירות, מי יכול לגשת אליו ומה קורה בעת מחיקה.

הרשות להגנת הפרטיות כבר הזהירה מפני סיכוני פרטיות בהזנת מידע למערכות AI יוצרת, לרבות אפשרות שמידע יישמר או ישמש לשיפור המערכת. במוצר עסקי הסיכון דורש בדיקה מערכתית ולא רק זהירות של המשתמש הבודד.

ספק המודל הוא חלק מהשרשרת המשפטית

שילוב API של מודל, שירות תמלול או כלי AI אחר יוצר מערכת יחסים עם ספק שמעבד מידע עבור המוצר. צריך לבדוק את תנאי הספק, מיקום העיבוד, ספקי משנה, שימוש בנתונים, תקופות שמירה, מנגנוני אבטחה והעברת מידע לחו"ל.

כאשר ספק חיצוני מקבל גישה למידע אישי, עשויות להיות רלוונטיות גם דרישות תקנות אבטחת מידע ביחס לגורם חיצוני.

מה המשתמש יודע על השימוש ב-AI?

שקיפות צריכה להתאים לפעולה האמיתית. יש הבדל בין כלי שמשפר ניסוח מקומי לבין מערכת ששולחת שיחה שלמה לשירות חיצוני, מנתחת מידע על אדם או משתמשת בתוצר כדי לקבל החלטה לגביו. ככל שהשימוש משמעותי יותר לזכויות האדם ולציפיותיו, כך נדרשת בחינה זהירה יותר של ההודעה, ההסכמה והבקרה.

במערכת שמנתחת מידע על אדם יש לבחון במיוחד את השפעת העיבוד, המידע שנמסר והבקרה האנושית. הבחינה תלויה במקרה השימוש ובדין החל.

הקלטה, תמלול וזיהוי דוברים

מוצרי meeting intelligence ותמלול מוסיפים שכבות נוספות: מי מוקלט, מי יודע על ההקלטה, האם נשמר קובץ האודיו, כיצד מזוהים דוברים, האם נוצר ייצוג קולי ומה נשלח לספקי STT או AI. כל אחת מהשאלות יכולה להשפיע על תכנון הממשק והמסמכים.

שימוש עובדים ב-ChatGPT ובכלי AI

גם ארגון שאינו מפתח AI עשוי להיות ארגון שמשתמש בו. עובדים יכולים להזין מסמכי לקוחות, קוד, מידע אישי או מידע עסקי לכלים חיצוניים. לכן כדאי להגדיר כלים מאושרים, סוגי מידע שאסור להזין, כללי בדיקה של תוצרים ומנגנון לאישור מקרי שימוש חדשים.