יועץ/ת RED TEAM (פרילנסר) לפיתוח כלי אבטחת AI מתקדם

אנו מחפשים יועץ/ת RED TEAM מנוסה לסייע בבנייה ובשיפור של פלטפורמת אבטחת AI ו-Red Teaming חדשנית. הכלי שלנו מיועד לבצע בדיקות חוסן התקפיות על מודלי AI באמצעות מנוע מבוסס NVIDIA, ולשפר את ההגנה מפני איומי סייבר ייחודיים למערכות בינה מלאכותית.



תאור התפקיד:
כיועץ/ת RED TEAM, תעבוד/תעבדי בצמוד לצוות הפיתוח שלנו כדי:
להגדיר ולשפר מתודולוגיות Red Teaming עבור מערכות AI, בדגש על מודלי שפה גדולים (LLMs).
לזהות פרצות ונקודות תורפה פוטנציאליות במודלי AI ולהציע דרכים למנוע אותן.
לסייע בתכנון ובפיתוח פרובים (probes) חדשים והתקפות אדברסריות (adversarial attacks) למנוע NVIDIA.
לספק תובנות ומומחיות ב-OWASP LLM Top 10 וב-MITRE ATLAS.
להדריך ולשתף ידע עם צוות הפיתוח בנושאי אבטחת AI.
להיות חלק מקהילת אבטחת AI מובילה ולתרום לחדשנות בתחום.

דרישות:
ניסיון מוכח ב-Red Teaming, עם התמחות באבטחת AI או LLMs – יתרון משמעותי.
הבנה עמוקה של איומי סייבר על מערכות AI, כולל Jailbreaks, Prompt Injections, Data Exfiltration ועוד.
היכרות עם כלי Red Teaming כגון Garak (יתרון).
יכולת ניתוח חזקה וגישה יצירתית לפתרון בעיות אבטחה.
תקשורת בין-אישית מעולה ויכולת עבודה עצמאית ובצוות.
ידע וניסיון בפיתוח (Python, JavaScript) – יתרון.

אם את/ה מעוניין/ת להשפיע על עתיד אבטחת ה-AI, נשמח לשמוע ממך!