🎓 מפתחי בינה מלאכותית - GenAI Engineers

ענן והפצה - Docker + Cloud Run

בפרודקשן, "זה עובד אצלי" לא מספיק. צריך אריזה קבועה, ניהול תלויות, קונפיגורציה, ושיטה עקבית לפריסה. כאן נכנסים Docker ו-Cloud Run.

1) מהו Docker באמת?

Docker הוא סט כלים שמאפשר לבנות Container Image - חבילה שמכילה את האפליקציה, התלויות שלה, והוראות איך להריץ אותה. זה לא VM: הקונטיינר משתף את הקרנל של מערכת ההפעלה, ולכן הוא קל ומהיר יותר.

2) עקרונות Dockerfile נכון (ל-Python + FastAPI)

Dockerfile הוא מתכון. המטרה: בילד מהיר, image קטן, והרצה יציבה. הדפוס הפופולרי הוא:

• להעתיק קודם קבצי תלויות (requirements/pyproject) כדי לנצל cache.
• להתקין תלויות ואז להעתיק את קוד האפליקציה.
• להריץ עם שרת ASGI כמו uvicorn או gunicorn+uvicorn worker.

# Dockerfile
FROM python:3.12-slim

# 1) יציבות והרצה צפויה
ENV PYTHONDONTWRITEBYTECODE=1 \
    PYTHONUNBUFFERED=1

WORKDIR /app

# 2) תלויות קודם - כדי לקבל cache
COPY requirements.txt .
RUN pip install --no-cache-dir -r requirements.txt

# 3) קוד אחר כך
COPY . .

# 4) Cloud Run מצפה לשרת שמאזין ל-$PORT
ENV PORT=8080
EXPOSE 8080

CMD ["uvicorn", "main:app", "--host", "0.0.0.0", "--port", "8080"]

__pycache__/
*.pyc
.venv/
.env
.git/
.gitignore
tests/
*.db
*.log

3) פרמטרים תפעוליים: env, secrets, ו-config

קונטיינר טוב לא "מקשיח" פרטים סביבתיים. במקום זה משתמשים במשתני סביבה:

DATABASE_URL=postgresql+psycopg://user:pass@host/db
OPENAI_API_KEY=...
LOG_LEVEL=info

כלל פרודקשן: לא שמים סודות בתוך ה-image ולא בקוד. ב-Cloud Run משתמשים ב-Secret Manager וממפים secrets למשתני סביבה בזמן דיפלוי.

4) Cloud Run במודל מחשבתי

Cloud Run מריץ קונטיינרים בצורה מנוהלת. אתה מספק image, והוא דואג ל:

• סקיילינג אוטומטי (כולל scale-to-zero).
• HTTPS, דומיין, ונתיב routing.
• ניהול גרסאות ושחרורים.
• לוגים ל-Cloud Logging.

5) בנייה מקומית והרצה

נבנה image ונריץ קונטיינר:

# build
docker build -t notes-api:local .

# run
docker run --rm -p 8080:8080 \
  -e LOG_LEVEL=info \
  notes-api:local

עכשיו אפשר לגשת ל-http://localhost:8080/docs ולראות את ה-OpenAPI.

6) Health checks וניטור מינימלי

Cloud Run לא דורש endpoints מיוחדים, אבל פרודקשן כן. מוסיפים endpoint כמו:

@app.get("/health")
def health():
    return {"status": "ok"}

בנוסף, מומלץ להדפיס לוגים כ-JSON כדי להקל על חיפוש:

{
  "level": "info",
  "event": "request_done",
  "path": "/api/v1/notes",
  "status": 200,
  "latency_ms": 37
}

7) Cloud Run: build, push, deploy (תהליך טיפוסי)

יש שני דפוסים נפוצים. הראשון הוא להשתמש ב-Cloud Build לבניית image ישירות מה-repo, בלי Docker מקומי.

# 1) build + push (Artifact Registry)
gcloud builds submit --tag REGION-docker.pkg.dev/PROJECT/REPO/notes-api:1.0 .

# 2) deploy
gcloud run deploy notes-api \
  --image REGION-docker.pkg.dev/PROJECT/REPO/notes-api:1.0 \
  --region REGION \
  --platform managed \
  --allow-unauthenticated \
  --set-env-vars LOG_LEVEL=info

8) Object Storage - למה תמונות, וידאו וקבצים כבדים הולכים ל-"S3" ולא ל-DB

במערכות מודרניות, קבצים כבדים (תמונות, וידאו, PDFים, ZIPים) לא נשמרים בתוך הקונטיינר ולא בתוך טבלאות DB כ-BLOBים (למעט מקרים חריגים). במקום זה משתמשים ב-Object Storage - שירות בסגנון S3 (ב-GCP זה Cloud Storage, ב-AWS זה S3).

הדפוס הנכון: מעלים את הקובץ ל-Object Storage ומקבלים URL (או key). ב-DB שומרים רק מטא-דאטה: מי העלה, מתי, איזה סוג, גודל, וכתובת הקובץ.

# טבלת DB (Postgres/Mongo) - מטא-דאטה בלבד
file_id | user_id | content_type | size_bytes | storage_key | created_at

# Object storage (S3/Cloud Storage)
storage_key -> actual binary object (image/video/pdf)

9) DB בענן - Postgres/Mongo לטבלאות מידע

במקומי השתמשנו ב-SQLite כדי ללמוד. בענן בדרך כלל משתמשים ב-PostgreSQL (Cloud SQL או ספק אחר). עקרונות חשובים:

• לא מחזיקים יותר מדי connections. קובעים pool קטן ומבוקר.
• מגדירים DATABASE_URL כ-env var.
• מוסיפים migrations (Alembic) כחלק מתהליך שחרור.

10) ארכיטקטורה של דיפלוי למערכת GenAI

במערכת GenAI, לרוב נפריד בין:

• Service API (FastAPI) - חשוף ללקוחות או לשער API.
• RAG Service - אינדקס ושליפה, לעתים נפרד מה-API הראשי.
• Worker - תהליכים אסינכרוניים (אינדוקס מסמכים, batch jobs).

תרגול

docker build -t my-api:local .
docker run --rm -p 8080:8080 my-api:local

gcloud builds submit --tag REGION-docker.pkg.dev/PROJECT/REPO/my-api:1.0 .
gcloud run deploy my-api --image REGION-docker.pkg.dev/PROJECT/REPO/my-api:1.0 \
  --region REGION --allow-unauthenticated

הפרק הבא בסדרה יהיה Webhooks + Automation (Make/N8N) כולל חתימות, retries, idempotency, ותירגול.