בקשת מידע | כמה שאלות במפתחות API של גוגל

[aiib]

1. האם יש גבול למפתחות ולשימוש בהם? (אם אני מוריד 100 מפתחות ומשתמש בהם בו זמנית בפרויקטים שונים, האם זה ייחסם?)
2. האם יש מניעה להוריד מפתח ולתת אותו למישהו אחר? (מבחינת אבטחת מידע וכדו')
3. איך אני בוחר מפתח למודל ספציפי?
4. איך מחושבת כל בקשה? (בקשה אחת או שכל קבוצת טוקנים וכדו' נחשבת בקשה?

תודה

[יוסי רחמים]

@aiib כתב בבקשת מידע | כמה שאלות במפתחות API של גוגל:

האם יש גבול למפתחות ולשימוש בהם?

ברור.אבל זה מספיק

@aiib כתב בבקשת מידע | כמה שאלות במפתחות API של גוגל:

(אם אני מוריד 100 מפתחות ומשתמש בהם בו זמנית בפרויקטים שונים, האם זה ייחסם?)

לא אמור

@aiib כתב בבקשת מידע | כמה שאלות במפתחות API של גוגל:

האם יש מניעה להוריד מפתח ולתת אותו למישהו אחר? (מבחינת אבטחת מידע וכדו')

כנראה

@aiib כתב בבקשת מידע | כמה שאלות במפתחות API של גוגל:

איך אני בוחר מפתח למודל ספציפי?

אתה לא בוחר.API זה להכל.בוחרים בשרת

@aiib כתב בבקשת מידע | כמה שאלות במפתחות API של גוגל:

איך מחושבת כל בקשה? (בקשה אחת או שכל קבוצת טוקנים וכדו' נחשבת בקשה?

בקשה ויש מגבלת טוקנים

[aiib]

@יוסי-רחמים כתב בבקשת מידע | כמה שאלות במפתחות API של גוגל:

@aiib כתב בבקשת מידע | כמה שאלות במפתחות API של גוגל:

האם יש גבול למפתחות ולשימוש בהם?

ברור.אבל זה מספיק

אני מתכוון גם אם אחליט לפתח משהו ציבורי שאחלק בו מפתחות API
וזה בערך מה ששאלתי בשאלה הבאה (אם כי זה יכול להיות יותר מ100)

@aiib כתב בבקשת מידע | כמה שאלות במפתחות API של גוגל:

(אם אני מוריד 100 מפתחות ומשתמש בהם בו זמנית בפרויקטים שונים, האם זה ייחסם?)

לא אמור

@aiib כתב בבקשת מידע | כמה שאלות במפתחות API של גוגל:

האם יש מניעה להוריד מפתח ולתת אותו למישהו אחר? (מבחינת אבטחת מידע וכדו')

כנראה

מה יכול לקרות?

@aiib כתב בבקשת מידע | כמה שאלות במפתחות API של גוגל:

איך מחושבת כל בקשה? (בקשה אחת או שכל קבוצת טוקנים וכדו' נחשבת בקשה?

בקשה ויש מגבלת טוקנים

איפה אפשר לקרוא כמה מגבלה יש לכל מודל?

[יוסי רחמים]

@aiib כתב בבקשת מידע | כמה שאלות במפתחות API של גוגל:

אני מתכוון גם אם אחליט לפתח משהו ציבורי שאחלק בו מפתחות API
וזה בערך מה ששאלתי בשאלה הבאה (אם כי זה יכול להיות יותר מ100)

אז ברור שזה יגמר.יש 500 בקשות ביום

@aiib כתב בבקשת מידע | כמה שאלות במפתחות API של גוגל:

מה יכול לקרות?

אין לי מושג.גוגל לא ממליצים.אני אישית לא מבין מה הבעיה.

איפה אפשר לקרוא כמה מגבלה יש לכל מודל?

https://ai.google.dev/gemini-api/docs/rate-limits?hl=he
שכבה חינמית

[aiib]

@יוסי-רחמים כתב בבקשת מידע | כמה שאלות במפתחות API של גוגל:

אז ברור שזה יגמר.יש 500 בקשות ביום

500 בקשות לחשבון או 500 בקשות למפתח?

כי אני מתכוון אם אחלק ל100 אנשים לכל אחד מפתח אחר וכל אחד ישתמש 500 בקשות ביום.

[יוסי רחמים]

@aiib כתב בבקשת מידע | כמה שאלות במפתחות API של גוגל:

500 בקשות לחשבון

@aiib כתב בבקשת מידע | כמה שאלות במפתחות API של גוגל:

כי אני מתכוון אם אחלק ל100 אנשים לכל אחד מפתח אחר וכל אחד ישתמש 500 בקשות ביום.

אז השרת של גוגל יחזיר שגיאת 429 שזה שנגמר המכסה

[aiib]

@יוסי-רחמים כתב בבקשת מידע | כמה שאלות במפתחות API של גוגל:

@aiib כתב בבקשת מידע | כמה שאלות במפתחות API של גוגל:

500 בקשות לחשבון

@aiib כתב בבקשת מידע | כמה שאלות במפתחות API של גוגל:

כי אני מתכוון אם אחלק ל100 אנשים לכל אחד מפתח אחר וכל אחד ישתמש 500 בקשות ביום.

אז הכל יקרוס

כי? זה 500 לחשבון?

[יוסי רחמים]

@aiib כן

[aiib]

@יוסי-רחמים כתב בבקשת מידע | כמה שאלות במפתחות API של גוגל:

@aiib כן

בשביל הסקרנות, איפה ראית את זה?

[I believe]

@aiib אולי אני לא מחדש לך, אבל כדי לפתור את בעיית האבטחה יוצרים שרת, ונותנים קישור לשרת, כמו ש @יוסי-רחמים עושה בקודים שלו במקצועיות.

[aiib]

@I-believe כתב בבקשת מידע | כמה שאלות במפתחות API של גוגל:

@aiib אולי אני לא מחדש לך, אבל כדי לפתור את בעיית האבטחה יוצרים שרת, ונותנים קישור לשרת, כמו ש @יוסי-רחמים עושה בקודים שלו במקצועיות.

תוכל בבקשה להרחיב יותר?

[NH.LOCAL]

@aiib כתב בבקשת מידע | כמה שאלות במפתחות API של גוגל:

@יוסי-רחמים כתב בבקשת מידע | כמה שאלות במפתחות API של גוגל:

@aiib כן

בשביל הסקרנות, איפה ראית את זה?

זה דבר די ברור. כל המגבלות הן פר חשבון. מפתחות ה-API הם דרכים שונות להגיע לאותו חשבון למעשה

Spoiler

(כל מודל AI יוכל לתת לך הסבר פשוט ומאיר עיניים, בשיטת "תסביר לי כמו לילד בן 5"...)

[I believe]

@aiib כתב בבקשת מידע | כמה שאלות במפתחות API של גוגל:

@I-believe כתב בבקשת מידע | כמה שאלות במפתחות API של גוגל:

@aiib אולי אני לא מחדש לך, אבל כדי לפתור את בעיית האבטחה יוצרים שרת, ונותנים קישור לשרת, כמו ש @יוסי-רחמים עושה בקודים שלו במקצועיות.

תוכל בבקשה להרחיב יותר?

אני עדיין לא ביצעתי את זה, אבל ממה שהבנתי מ AI זה לא כל כך מסובך, אני מעתיק בספוילר את ההדרכה שהוא כתב לי, אחרי שדייקתי אותו לפרטים הקטנים...

Spoiler

יצירת שרת פרוקסי מאובטח למפתח API

חוששים לתת לאנשים להשתמש במפתח ה-API היקר שלכם? המדריך הזה יראה לכם, צעד אחר צעד, איך לבנות "שומר ראש" דיגיטלי (שרת פרוקסי) שיאפשר לאחרים להשתמש ב-API שלכם בבטחה, מבלי לחשוף את המפתח הסודי לעולם.

חשבו על מפתח API כמו על סיסמה סודית לחשבון בנק יקר. אתם לא רוצים לתת את הסיסמה לכל אחד. השרת שנבנה ישמש כמתווך: אנשים יבקשו ממנו בקשות, והוא ישתמש בסיסמה הסודית שלכם בשמכם ויעביר להם את התשובה, מבלי שהם יראו את הסיסמה אי פעם.

---

שלב 0: הכנות מקדימות (ציוד חובה)

לפני שמתחילים, ודאו שיש לכם את שלושת הדברים הבאים:

• חשבון Cloudflare: אם אין לכם, פתחו חשבון בחינם כאן. זה יהיה ה"בית" של שרת הפרוקסי שלנו.
• מפתח API של Google AI: הפיקו מפתח חדש ב-Google AI Studio. זהו המפתח הסודי שאותו נרצה להגן. שמרו אותו בצד, נצטרך אותו בקרוב.
• סביבת Node.js: התקינו את גרסת ה-LTS מכאן. זהו "מנוע" טכני שמאפשר לנו להריץ פקודות התקנה על המחשב. ההתקנה פשוטה בסגנון "הבא, הבא, סיים".

---

שלב 1: הקמת סביבת העבודה

בשלב זה נתקין את "השלט הרחוק" של Cloudflare על המחשב שלנו וניצור את תיקיית הפרויקט.

1. פתחו טרמינל:

   • ב-Windows: חפשו בתפריט "התחל" PowerShell והפעילו אותו.
   • ב-Mac: חפשו Terminal והפעילו אותו.
     החלון השחור/כחול שייפתח הוא שורת הפקודה שלנו.

2. התקינו את Wrangler: זהו כלי העבודה הרשמי של Cloudflare. הדביקו את הפקודה הבאה בטרמינל ולחצו Enter:

   npm install -g wrangler
   

3. התחברו לחשבון Cloudflare: הפקודה הבאה תקשר את הטרמינל לחשבון שלכם.

   wrangler login
   

   ייפתח חלון בדפדפן שיבקש מכם לאשר את החיבור. לחצו Allow (אשר) וחזרו לטרמינל.

4. צרו פרויקט חדש: הפקודה הזו יוצרת תיקייה חדשה עם כל הקבצים הדרושים. אפשר לשנות את השם my-ai-proxy לכל שם שתרצו.

   wrangler init my-ai-proxy
   

   ענו על השאלות שיופיעו כך (הקלידו את האות ולחצו Enter):

   • Use git? -> n
   • Create a "Hello World" script? -> y
   • Deploy your Worker? -> n

5. היכנסו לתיקיית הפרויקט: נגיד למחשב לעבוד מתוך התיקייה החדשה שיצרנו.

   cd my-ai-proxy
   

---

שלב 2: הוספת קוד ה"שומר ראש"

כעת נחליף את קוד ברירת המחדל בקוד שיודע לקבל בקשות, להשתמש במפתח הסודי שלנו, ולהחזיר תשובה.

1. פתחו את הקובץ src/index.js שנמצא בתיקיית הפרויקט שיצרתם (לדוגמה: my-ai-proxy/src/index.js). אפשר לפתוח אותו עם כל עורך טקסט פשוט כמו "פנקס רשימות" (Notepad) ב-Windows.

2. מחקו את כל מה שכתוב בקובץ, והדביקו במקומו את הקוד הבא:

   export default {
     async fetch(request, env) {
       // הגדרות CORS המאפשרות גישה מכל דומיין
       const corsHeaders = {
         'Access-Control-Allow-Origin': '*',
         'Access-Control-Allow-Methods': 'POST, OPTIONS',
         'Access-Control-Allow-Headers': 'Content-Type',
       };
   
       // טיפול בבקשות OPTIONS (חיוני ל-CORS)
       if (request.method === 'OPTIONS') {
         return new Response(null, { headers: corsHeaders });
       }
   
       // קבלת הבקשה מהלקוח והעברתה ל-Google AI
       try {
         // כתובת ה-API של Gemini. המפתח הסודי נלקח מ-env.GOOGLE_API_KEY
         const GEMINI_URL = `https://generativelanguage.googleapis.com/v1beta/models/gemini-pro:streamGenerateContent?key=${env.GOOGLE_API_KEY}`;
   
         // שליחת הבקשה המקורית מהלקוח ישירות ל-Gemini
         const geminiResponse = await fetch(GEMINI_URL, {
           method: 'POST',
           headers: { 'Content-Type': 'application/json' },
           body: request.body,
         });
   
         // הזרמת התשובה מ-Gemini חזרה ללקוח, עם הוספת כותרות ה-CORS
         const response = new Response(geminiResponse.body, geminiResponse);
         Object.entries(corsHeaders).forEach(([key, value]) => {
           response.headers.set(key, value);
         });
         return response;
   
       } catch (e) {
         return new Response(`Error: ${e.message}`, { status: 500, headers: corsHeaders });
       }
     },
   };
   

3. שמרו את הקובץ וסגרו אותו.

---

שלב 3: הפקדת המפתח הסודי בכספת

זהו השלב החשוב ביותר. במקום לשים את המפתח בתוך הקוד, נפקיד אותו ב"כספת" של Cloudflare. כך הקוד שלנו יוכל להשתמש בו, אבל הוא לעולם לא ייחשף.

1. חזרו לטרמינל (ודאו שאתם עדיין בתוך תיקיית הפרויקט).
2. הריצו את הפקודה הבאה:

   wrangler secret put GOOGLE_API_KEY
   

3. הטרמינל יבקש מכם להזין את הסוד. הדביקו את מפתח ה-API של Google AI שהעתקתם בהתחלה ולחצו Enter.

---

שלב 4: שיגור השרת לאינטרנט

בפקודה אחת, כל מה שעשינו יעלה לענן ויהפוך לשרת פעיל באינטרנט.

1. הריצו את הפקודה הבאה בטרמינל:

   wrangler deploy
   

2. לאחר מספר שניות, תופיע הודעת הצלחה עם כתובת אינטרנט. היא תיראה כך:
   https://my-ai-proxy.YOUR-ACCOUNT.workers.dev

---

כל הכבוד! יש לכם שרת פרוקסי מאובטח ופעיל!

העתקתם את הכתובת? מעולה! זוהי הכתובת החדשה והבטוחה שלכם.
כעת, במקום לתת לאנשים את מפתח ה-API שלכם, תנו להם את הכתובת הזו. הם ישלחו אליה בקשות, והשרת שלכם יטפל בכל השאר מאחורי הקלעים, כשמפתח ה-API היקר שלכם נשאר סודי ומוגן.

[aiib]

@I-believe תודה, אבל אני יותר מחפש ליצור כמות של מפתחות ולא להשתמש באחד שלי.

[I believe]

@aiib הפתרון הטוב ביותר שמצאתי כדי לאפשר שימוש בלתי מוגבל במפתח ה-API, הוא להדריך כל משתמש ליצור מפתח אישי ולהטמיע אותו בקוד.
כדי לפשט את התהליך, בניתי קובץ אקסל שמבצע את ההחלפה באופן אוטומטי: מעתיקים אליו את הקוד, והוא מאתר את השורה המדויקת בקוד ומכניס אליה את המפתח האישי של המשתמש. הכלי הזה שימושי גם לביצוע שינויים נוספים בקוד.
אבל כמובן, פתרון זה מתאים בעיקר לכלים המבוססים על קטעי קוד פשוטים, ופחות למערכות מורכבות יותר.
קובץ האקסל זקוק לליטוש קטן, אני מקווה להעלות אותו בהמשך.

Spoiler

אם הוא יוכל לעזור לך, אנסה לסיים אותו כעת...

[aiib]

@I-believe כתב בבקשת מידע | כמה שאלות במפתחות API של גוגל:

אם הוא יוכל לעזור לך, אנסה לסיים אותו כעת...

נראה לי פחות מתאים.
אם הבנתי נכון בעצם עדיין המשתמש אצלך צריך ללכת לאתר של גוגל ולהנפיק לעצמו, נכון?

[I believe]

@aiib כתב בבקשת מידע | כמה שאלות במפתחות API של גוגל:

@I-believe כתב בבקשת מידע | כמה שאלות במפתחות API של גוגל:

אם הוא יוכל לעזור לך, אנסה לסיים אותו כעת...

נראה לי פחות מתאים.
אם הבנתי נכון בעצם עדיין המשתמש אצלך צריך ללכת לאתר של גוגל ולהנפיק לעצמו, נכון?

נכון