כיום קיימת פרישה גוברת והולכת של יישומים מאופשרי אינטליגנציה מלאכותית (AI) בטכנולוגיות מתקדמות וחדשניות. הסקת מסקנות על ידי אינטליגנציה מלאכותית מאפשרת בנייה של ערים חכמות ומפעלים חכמים הפועלים באוטומציה ברמה גבוהה. אפילו חוויית המסחר הקמעונאי הופכת להיות מתוחכמת יותר עם הובלת המוצרים של מסחר קמעונאי חכם דרך חוויה של קנייה אוטומטית בתחכום רב. יישומים אלו חייבים להיות אמינים ביותר ונדרשים להם ביצועים ברמה גבוהה, שאותם אפשר לספק אותם בממדים יעילים וקומפקטיים.
אתגרי עיבוד מתקדמים
בעת פרישה של מערכת בנקודות הקצה, צריכת ההספק, עקבת המעגל והעלות מהווים כולם גורמים מגבילים. דרישות עיבוד שגוברות והולכות במסגרת המגבלות של עיבוד מתקדם מובילות לרמה מאתגרת של ביצועים נדרשים. על אף שבתחום יחידות יע”מ (CPU) חלו שיפורים בקצה העליון, הקצב הואט במהלך השנים האחרונות. יחידות יע”מ ללא האצה פועלות תוך כדי מאמצים לספק את הביצועים הנדרשים לדור הבא של יישומים מתקדמים מאופשרי אינטליגנציה מלאכותית, במיוחד כאשר לוקחים בחשבון את הדרישות ההדוקות של זמני המתנה.
ארכיטקטורה ייעודית לתחום (domain) (DSA) חשובה ביותר במימוש יישומים מתקדמים של אינטליגנציה מלאכותית בקצה. ארכיטקטורות DSA מספקות גם דטרמיניזם וזמן המתנה קצר.
ארכיטקטורת DSA תעבור תכנון מיוחד כדי לעבד באופן יעיל את הנתונים – את הסקת המסקנות של האינטליגנציה המלאכותית (AI) וגם את החלקים שאינם AI של היישום, בעיקרו של דבר את היישום כולו. עובדה זו חשובה אם לוקחים בחשבון שלצורך הסקת מסקנות של AI נדרשים עיבוד נתונים לפני ואחרי AI, ועל כל אלו עומדות דרישות גבוהות לביצועים. ביסודו של דבר, נדרשת האצה של היישום כולו על מנת לממש יישומים יעילים מאופשרי אינטליגנציה מלאכותית בקצה (ובכל מקום אחר).
ככל פתרון קבוע אחר בסיליקון, למוצרים סטנדרטיים ייעודיים בסיליקון (ASSP) שפותחו עבור יישומים מתקדמים של אינטליגנציה מלאכותית יש עדיין מגבלות. האתגר העיקרי הוא בכך שחידוש אינטליגנציה מלאכותית הוא מהיר והופך את דגמי AI לדגמים מבוטלים (ישנים) מהר יותר בהרבה מאשר בטכנולוגיות שאינן AI. התקנים קבועים בסיליקון אשר מממשים אינטליגנציה מלאכותית עלולים להפוך במהירה לחסרי תועלת כתוצאה מהופעתם של דגמי AI חדשים יותר ויעילים יותר. שנים עלולות לחלוף עד להפקת התקן קבוע בסיליקון, ועד אז דגמי AI המתקדמים ביותר של היום, יתקדמו הלאה. דרישות אבטחה ובטיחות פונקציונלית מקבלות אף הן חשיבות גבוהה ליישומים מתקדמים ומניבות לעתים עדכונים בשטח שעלותם עלול להיות גבוהה.
ההבטחה הגלומה במחשוב מסתגל
מחשוב מסתגל – אשר מקיף חומרה שאותה אפשר להתאים באופטימיזציה ליישומים ייעודיים כגון יישומים למערכי שערים ניתנים לתכנות בשטח (FPGA) – הוא פתרון רב יכולת ליישומים מתקדמים מאופשרי אינטליגנציה מלאכותית.
לאחרונה הופיעה חומרה מסתגלת שכוללת מערכת על שבב (SoC) מסתגלת, אשר מכילה מארג FPGA, בצירוף למערכת יע”מ משובצת אחת או יותר. עם זאת, מחשוב מסתגל כולל הרבה יותר מאשר “רק חומרה”. הוא משלב ערכה מקיפה של תוכנה לתכנון ולזמן פעולה אשר כאשר הן משולבות, הן מספקות פלטפורמה מסתגלת ייחודית אשר אפשר באמצעותה ליצור מערכות גמישות ביותר, ועם זאת יעילות.
מחשוב מסתגל מאפשר לממש ארכיטקטורות DSA ללא צורך בהשקעת זמן התכנון והעלויות הישירות הדרושות כדי לטפל בהתקני סיליקון מותאמים אישית, כמו למשל בהתקני ASIC. המשמעות היא שאפשר לפרוש במהירות פתרונות גמישים ומותאמים באופן אישי עבור כל מתחם (domain) נתון, לרבות יישומי קצה מאופשרי AI. התקני SoC מסתגלים מתאימים באופן מיוחד לעיבוד ייעודי למתחם מאחר שמשולבת בהם הגמישות של מערכות יע”מ משנה משובצות ומקיפות עם עיבוד נתונים מיטבי של חומרה מסתגלת.
מוערכות מסתגלות על מודול
מערכות על מודול (SOM) מספקות פלטפורמות מחשוב שלמות מוכנות לייצור והן חוסכות זמן ועלויות פיתוח משמעותיים לעומת פיתוח של שבב. מערכות SOM יכולות להתחבר ליישומים מתקדמים נוספים ולספק את הגמישות של מימוש בהתאמה אישית, בצד קלות שימוש וזמן הוצאה לשוק מקוצר שיש לפתרונות מהמדף. עם זאת, כדי להשיג את הביצועים הנדרשים על ידי יישומים מודרניים מאופשרי AI, נדרשת האצה.
לחלק מהיישומים נדרשים רכיבי חומרה בהתאמה אישית כדי שיתחברו בממשק אל מערכת SoC מסתגלת והמשמעות היא שנדרש תכנון של פתרון ייעודי (chip down). עם זאת, למספר גדל והולך של יישומים מתקדמים מאופשרי AI יש צורך במספר דומה של רכיבים וממשקים בחומרה, גם עבור יישומי קצה שונים באופן מהותי. מאחר שתחומי תעשייה עברו לכיוון של פרוטוקולי ממשקים ותקשורת תקניים, ערכה זהה של רכיבים מתאימה למגוון יישומים על אף שיש להם צורכי עיבוד שונים לחלוטין.
במערכת SOM מסתגלת עבור יישום מתקדם מאופשר אינטליגנציה מלאכותית, משולבת מערכת על שבב מסתגלת עם ממשקים ורכיבים בתקן תעשייתי, כך שאנשי תכנון יכולים לקבל חווית שימוש עם חומרה מוגבלת או ללא כל חומרה, כדי לזכות ביתרונות של טכנולוגיית מחשוב מסתגלת. אפשר לממש במערכת SoC מסתגלת עיבוד של אינטליגנציה מלאכותית (AI) וגם עיבוד שאינו של אינטליגנציה מלאכותית, ומכאן, את כל העיבוד.
בנוסף, מערכות מסתגלות על שבב על גבי מערכות מסתגלות על מודול מאפשרות רמה גבוהה של התאמה אישית. הן מתוכננות להשתלב בתוך מערכות נרחבות יותר והן נוצרות בממדים פיסיים מוגדרים מראש. מערכות SOM מסתגלות מאפשרות לנצל את מלוא היתרונות של מחשוב מסתגל מבלי שיהיה עליהן לעבור תכנון של פתרון ייעודי. מערכת מסתגלת על שבב היא רק חלק מהפתרון. גם לתוכנה יש חלק חשוב.
חברות שאימצו את היתרונות של מערכות SOM המסתגלות מפיקות תועלת משילוב ייחודי של ביצועים, גמישות, וזמן פיתוח מהיר. הן יכולות לזכות מהיתרונות של מחשוב מסתגל מבלי שיהיה להם צורך לבנות את מעגלי הרכיבים של עצמם, דבר מה שמתאפשר רק לאחרונה ביישומים מתקדמים עם ההופעה של תיק מוצרי SOM המסתגלים Kria™ של Xilinx.
מערכת על מודול Kria K26
קרדיט תמונות: כל הזכויות שמורות 2021 © ל- Xilin
מערכת SOM דגם Kria K26 בנויה על ארכיטקטורת Zynq® UltraScale+™ MPSoC, אשר מתאפיינת במעבד Arm® Cortex™–A53 בעל ארבע ליבות, יותר מ-250 אלף תאים לוגיים ותוכנת Codec לווידאו בתקן H.264/265. במערכת SOM משולב גם זיכרון DDR4 בגודל 4 ג’יגה ביית ו-69 חיבורי קלט/פלט של 3.3 וולט ו- 116 חיבורי קלט/פלט של 1.8 וולט, אשר מאפשרים לה להיות מותאמת כמעט לכל חיישן או ממשק. עם יכולת מחשוב AI של 1.4 טרה פעולות בשנייה, מערכת SOM דגם Kria K26 מאפשרת לאנשי פיתוח ליצור יישומי אינטליגנציה מלאכותית של יכולת ראייה אשר מציעים יותר מפי 3 ביצועים עם זמן המתנה קצר יותר והספק נמוך יותר בהשוואה למערכות SOM מבוססות יחידות GPU, ביצועים שהם קריטיים ליישומי ראייה קריטיים כדוגמת אבטחה, מצלמות תנועה ומצלמות עירוניות, ראיית מכונה ורובוטיקה בהכוונת ראייה. על ידי קביעת התקן עבור חלקי הליבה, בידי אנשי הפיתוח יש זמן רב יותר להתמקד בשילוב תכונות שמבדלות את הטכנולוגיה שלהם מהמתחרים.
בניגוד למוצרי AI מתקדמים אחרים אשר מאפשרים ביצוע של עדכוני תוכנה אבל מוגבלים על ידי מאיצים קבועים, מערכות SOM בסדרת Kria מציעים שתי דרגות של גמישות לאורך זמן – תוכנה וחומרה. המשתמשים יכולים להתאים את ממשקי הקלט/פלט, את עיבוד הראייה ואת מאיצי AI, כך שתהיה תמיכה בחלק מהמערכות הבאות: ממשקי MIPI, LVDS, ו- SLVS-EC, איכות גבוהה, אלגוריתמי דימות ייעודיים בטווח דינמי גבוה לראיית יום או לילה, יחידות עיבוד למידה עמוקה ב- 8 סיביות, או, בעתיד, גישות של רשתות עצביות (מלאכותיות) ב- 4 סיביות או אף בינריות. נקודת המפגש בין מיזוג חיישנים רב אופני (multi modal) עם עיבוד אינטליגנציה מלאכותית בזמן אמת נגישה מעתה מאוד, החל בערכת AI למתחיל לראייה KV260 של Xilinx ועם פרישה לייצור עם ערכת SOM דגם Kria K26.
ערכת AI דגם KV260 למתחיל לראיית אינטליגנציה מלאכותית
קרדיט תמונות: כל הזכויות שמורות 2021 © ל- Xilinx
היתרונות לאנשי פיתוח חומרה ולאנשי פיתוח תוכנה
מערכות SOM מסתגלות מועילות לאנשי פיתוח חומרה וגם לאנשי פיתוח תוכנה. מערכות SOM מציעות לאנשי פיתוח חומרה פתרון מהמדף מוכן לייצור וחוסכות בכך עלות וזמן פיתוח משמעותיים. התקנים אלו מאפשרים גם לצוותי החומרה לשנות את התכנון בשלב מתקדם של התכנון, לעומת טכנולוגיה של מערכות SOM מבוססות סיליקון קבוע.
עבור אנשי פיתוח AI ופיתוח תוכנה, המחשוב המסתגל נגיש יותר מאשר בעבר. Xilinx הקפידה להשקיע רבות בזרימה של כלים כדי להבטיח שזה אכן הכיוון. ההוצאה לשוק של תיק מוצרי Kria SOM הופכת את יכולת הגישה הזו לשלב הבא של צימוד פלטפורמת החומרה והתוכנה עם יישומי ראייה מואצים מוכנים לייצור. יישומים אלו, שהם “עד מפתח” מבטלים את הצורך בכל עבודת תכנון החומרה של התקני FPGA וממתכנני החומרה נדרש רק לשלב את דגמי AI שלהם בהתאמה אישית, את קוד היישום ואולי גם יהיה עליהם לשנות את צנרת (pipeline) הראייה – באמצעות סביבת תכנון מוכרת כדוגמת מסגרות העבודה TensorFlow, Pytorch או Caffe וכן באמצעות שפות התכנות C, C++, OpenCL™ או Python – אשר מאופשרות בפלטפורמה והספריות המאוחדות לפיתוח תוכנה Vitis™.
עם הפרדיגמה החדשה הזו של היישום המואץ לתכנון מבוסס תוכנה, Xilinx מכריזה גם על מאגר האפליקציות המשולב הראשון ליישומים מתקדמים, ומציעה ללקוחות מבחר נרחב של אפליקציות למערכות Kria SOM מאת Xilinx ושותפותיה במערכת האקולוגית. ההצעות של Xilinx הן יישומים מואצים בקוד מקור פתוח, מסופקות ללא חיוב כספי והן בטווח שבין מצלמה חכמה וזיהוי פנים לבין עיבוד שפה טבעית עם ראייה חכמה.
העתיד מצוי בתחום המחשוב המסתגל
המודלים של אינטליגנציה מלאכותית ממשיכים להתפתח בקצב מהיר. המשמעות היא שיש להתאים פלטפורמות האצה כדי לאפשר מימוש אופטימלי של טכניקות AI להווה ולעתיד. אכן, מערכות SOM מספקות פלטפורמת עיבוד מתקדמת ביותר. בשילוב עם מערכות מסתגלות על שבב מערכות SOM מציעות פלטפורמה מקיפה, מוכנה לייצור עבור יישומי AI מתקדמים ביותר. חברות שמאמצות את ההתקנים האלה יכולות לגזור את היתרונות של מחשוב מסתגל, ולזכות משילוב ייחודי של ביצועים, גמישות וזמן פיתוח מהיר.
