DiscoverHidden layers
Hidden layers
Claim Ownership

Hidden layers

Author: UriEliabayev

Subscribed: 13Played: 321
Share

Description

Hidden layers - האנשים שמאחורי הדאטה.
פודקאסט מבית MDLI שבו אני (אורי אליאבייב) מראיין אנשים מעניינים בעולמות הדאטה, ה-AI וכו’.
44 Episodes
Reverse
ממשיכים בסדרה שלנו על עולמות ה-Data Centers, הקומפיוט וה-AI Factories, ושוב הקלטנו באולפן החדש של NVIDIA בתל אביב. האורח הפעם הוא אלון יריב, מנכ"ל ומייסד Atero, שנרכשה על ידי Crusoe. היום אלון מוביל את הפיתוח העסקי של Crusoe בעולם ועומד בראש הפעילות של Crusoe ישראל. התחלנו מהטכנולוגיה של Atero: איך משתפים KV Cache בין GPUs בכל הקלסטר, ולמה זה יכול לחסוך עד 90% מה-Latency. משם עברנו לסיפור של Crusoe, שהתחילה מכריית קריפטו על גז שנשרף בשדות הנפט, והגיעה לבניית Stargate, דאטה סנטר של ג'יגה-וואט בגודל של סנטרל פארק, בתוך שנתיים. דיברנו על איך צוואר הבקבוק זז מה-GPUs לאנרגיה, למקום בדאטה סנטרים ולידיים שבונות אותם, למה כדאי לבנות דאטה סנטרים דווקא בישראל, ואם יש פה בועה או שהביקוש באמת קיים. ולסיום, אלון פונה ליזמים ישראלים: ה-Build-Out הזה הוא הזדמנות ענקית, והוא רוצה שהסטארטאפים הישראלים יהיו חלק ממנו. פרק חובה לכל מי שרוצה להבין את הכלכלה ואת התשתית שמאחורי ה-AI. גרסת האודיו של הפרק נמצאת כאן: https://youtu.be/Q0aT9yrrBxE
בפרק הזה היה לי העונג לארח את אילן קדר, מנכ"ל ומייסד שותף בחברת Plurai, חבר שאני מכיר כבר כמעט עשור. את הפרק הקלטנו באולפן החדש של NVIDIA בתל אביב. אילן הוביל בעבר קבוצות AI בנקסר, ועכשיו הוא בונה ב-Plurai סימולטור שבודק AI Agents ותופס את הבעיות שלהם לפני שהלקוחות נתקלים בהן. בשיחה דיברנו על Evaluation של Agents, על דאטה סינתטי ולמה לבקש ממודל "תייצר לי עשר דוגמאות" לא עובד, ועל איך בונים Small Language Models שמותאמים למשימה אחת ועולים הרבה פחות. פרק חובה לכל מי שבונה Agents בארגון ורוצה להבין איך עוברים מדמו לפרודקשן. גילוי נאות: אילן הוא חבר טוב ויש לי גם הזכות לייעץ ל-Plurai ולעבוד איתם :) לינק לאתר שלהם: https://www.plurai.ai/
הפרק הזה היה לי העונג לארח את אבישי זווצניק, Security Research Director בחברת Cato Networks ולדבר על ההשפעה של AI על כל תחום הסייבר. חברת Cato היא בין חברות הסייבר הותיקות בישראל שמגנה על ארגונים רבים בארץ ובעולם - מה שמאפשר להם לחוות מקרוב את כל השינוי שקורה בתחום. בשיחה עם אבישי דיברנו על הדרך שבה AI שינה את הדרך שהם עובדים בה, את האופי שבו הם משלבים AI בפיתוח שלהם והכי חשוב: על הצורך לסגור פרצות מהר נוכח רף האיומים החדש שנוצר. פרק חובה למי שרוצה להכיר לעומק את מאחורי הקלעים של תחום הסייבר וה-AI וכיצד הוא משתנה.
פרק ראשון בסדרה חדשה שלנו על עולמות ה-Data Centers, הקומפיוט וה-AI Factories, והפעם הקלטנו באולפן החדש של NVIDIA בתל אביב. האורח הראשון בסדרה הוא גלעד שיינר, סגן נשיא בכיר (SVP) ל-Networking ב-NVIDIA. גלעד הצטרף למלאנוקס ב-2001 כמתכנן שבבים, בשנים הראשונות של פרוטוקול InfiniBand, ומעטים מכירים כמוהו את מה שקורה בין ה-GPUs. שאלתי את גלעד למה GPU לבד כבר לא מספיק, ומה ההבדל בין חוות שרתים רגילה לבין AI Factory, מפעל שמייצר טוקנים. דיברנו על NVLink ועל 1,152 GPUs שעובדים כמחשב אחד, על מחשוב בתוך הרשת (עם אנלוגיית פיצרייה מצוינת), על למה NVIDIA תומכת גם ב-Ethernet, ועל Scale-Across: חיבור של AI Factories רחוקים לאימון אחד. והכי מעניין מבחינתי: עד כמה האנרגיה והאופטיקה הופכות לצוואר הבקבוק האמיתי, ולמה ארבעה מתוך שבעת השבבים במערכת של NVIDIA הם שבבי רשת, ומה התפקיד של ישראל בכל זה. פרק חובה לכל מי שרוצה להבין איך בנויה התשתית שמאחורי ה-AI.
In this episode I had the honor to interview Benjamin Mayr, Vice President, Head of Architecture at NiCE Cognigy. Benjamin took me deep into what it really takes to run enterprise-grade conversational and agentic AI at scale. We talked about the "harness" around the model - the layer that turns a raw LLM into a reliable agent in a live contact center. He also broke down the LLM Gateway, which pools and load-balances across many model endpoints to keep everything fast and always-on. We also explored why picking the right model for the right job beats raw reasoning power, and looked ahead to a future of personal agents, agent-to-agent interactions, and even humanoid robots as the next interface. This interview was part of my coverage of the NiCE World conference. I learned so much about the real path from conversational AI to production-grade agents in this conversation. Audio is here: https://hiddenlayers.podbean.com/
loading
Comments