בשנים האחרונות כלי הבינה המלאכותית, דוגמת ChatGPT, השתלבו במרבית תחומי חיינו והשימוש בהם הפך נפוץ יותר ויותר בהקשרים רבים. הפיתוח המואץ והשימוש התדיר בכלי הבינה המלאכותית יצרו צורך בקביעת מדיניות שמטרתה להגן על המשתמשים בכלים אלה מפני ההשפעות המזיקות שלהם מצד אחד, ומצד שני לתמוך ולעודד פיתוח ושימוש של כלים אלו.

במהלך חודש פברואר 2025 נכנס לתוקף השלב הראשון של רגולציית Artificial Intelligence Act של האיחוד האירופי (להלן:"חוק ה-AI").^[1] מטרתו של חוק ה-AI היא קידום פיתוח אחראי של כלי הבינה המלאכותית המופעלים באיחוד האירופי תוך הקפדה על שימוש בטוח, שקיפות ושמירה על זכויות אדם.

חוק ה-AI מחלק את מערכות הבינה המלאכותית למספר קטגוריות בהתאם לרמת הסיכון שמציבה המערכת ופוטנציאל הנזק שהשימוש בה עלול לגרום, והוא קובע חובות ואיסורים ביחס לאותה מערכת בינה מלאכותית בהתאם לרמת הסיכון. בדומה לתקנות הגנת הפרטיות של האיחוד האירופי (ה-GDPR), גם חוק ה-AI צפוי להציב סטנדרטים בינלאומיים לפיתוח ושימוש בכלי הבינה המלאכותית, שכל חברה שפועלת או מתכננת לפעול בשוק האירופי תידרש לעמוד בהם.

הוראות חוק ה-AI חלות על גורמים שונים בשרשרת הפיתוח, ההפצה, ההפעלה והשימוש בכלי הבינה המלאכותית – גם אם מקום מושבם מחוץ לאיחוד האירופי במקרה שבו נעשה שימוש בפלט הכלי באיחוד האירופי. בנוסף, החוק מתייחס ליבואנים ומפיצים של כלי בינה מלאכותית בתוך האיחוד האירופי, יצרני מוצרים המשולבים בהם כלי בינה מלאכותית המשווקים באיחוד תחת אותו שם או סימן מסחר, ונציגים מורשים של ספקים שמקום מושבם מחוץ לאיחוד.^[2]

סעיף 5 לחוק ה-AI אוסר על שימוש, שיווק והפעלה של מערכות בינה מלאכותית שהוגדרו כבעלות רמת סיכון "בלתי קבילה"  (unacceptable risk) בשל הסכנה שהן מהוות ליחידים ולחברה ובמטרה למנוע פגיעה בזכויות יסוד ולצמצם סיכונים אתיים וחברתיים משמעותיים. בין המערכות האסורות נכללות, למשל, מערכות המנצלות פגיעות של אוכלוסיות רגישות באמצעות טכניקות מניפולטיביות או מטעות; מערכות לזיהוי פנים וביומטריה בזמן אמת במרחבים ציבוריים;^[3] ומערכות המסווגות אנשים לפי נתונים ביומטריים במטרה להסיק מידע כגון גזע ואמונות דתיות.

הפרת האיסורים הקבועים בחוק ה-AI עלולה להוביל להטלת קנסות משמעותיים בשיעור של עד 7% מהמחזור השנתי העולמי של חברה או 35 מיליון אירו, הגבוה מבניהם. במקרים של ארגונים קטנים ובינוניים, לרבות חברות הזנק (סטארט-אפ), שיעור הקנס יהיה הנמוך מבין שתי החלופות.

כניסתו של החוק המלא לתוקף נעשית באופן הדרגתי. באוגוסט 2025 צפויים להיכנס לתוקף חובות דיווח לגופים הרגולטוריים, הוראות ביחס למערכות למטרות כלליות (GPAI), הוראות מדיניות ברמת האיחוד וברמה הלאומית-מדינתית, הוראות ביחס לאכיפה וענישה, וחובת סודיות המוטלת על הגופים הרגולטוריים. שנה לאחר מכן, באוגוסט 2026, צפויים להיכנס לתוקף יתר סעיפי החוק, למעט החובות המוטלות על מערכות בינה מלאכותית בסיכון גבוה, המפורטות בנספח 1, אשר כפופות כבר לרגולציה אירופית קיימת, שיכנסו לתוקף באוגוסט 2027.

אנו ממליצים למיזמים המפתחים, מפיצים או משלבים במוצר שלהם מערכות AI, לבחון, כבר בשלב זה את החובות והאיסורים בחוק ה-AI שעשויים לחול לגביהם. משרדנו ישמח לייעץ בעניין זה.

[1] https://artificialintelligenceact.eu/chapter/1/ חוק ה-AI אושר באיחוד האירופי במרץ 2024, ותחולתו הדרגתית, כאשר חלק ראשון מהוראותיו נכנס לתוקף ביום 2.2.2025.  

[2] יצוין, כי החוק אינו חל, בין היתר, על מערכות AI המשמשות למטרות מחקר ופיתוח מדעי בלבד, ומרבית הוראות החוק אינן חלות על אלו המשתמשים ב-AI לצורך פעילות פרטית ולא מקצועית.

[3] למעט שימוש הנחוץ למטרות אכיפת החוק (כגון מניעת איומים לפיגועי טרור, ומצוד אחר חשודים בפשעים חמורים).