البحث وتحليل المعلومات باستخدام نماذج اللغة الكبيرة (LLM)
البحث وتحليل المعلومات باستخدام نماذج اللغة الكبيرة (LLM)
مقدمة
يمكن استخدام نماذج اللغة لإنشاء أنظمة بحث ذكية وأدوات متطورة لتحليل المعلومات. يستعرض هذا الدرس الطرق المختلفة لتنفيذ هذه الوظائف باستخدام LLM.
أنواع البحث والتحليل
1. البحث الدلالي
- البحث بالمفاهيم
- البحث بالسياق
- البحث بالتشابه
- البحث بالعلاقات
- البحث بالقصد
2. تحليل المعلومات
- تحليل المستندات
- تحليل البيانات
- تحليل الاتجاهات
- تحليل المشاعر
- تحليل السياق
3. استخراج المعرفة
- استخراج الكيانات
- استخراج العلاقات
- استخراج الحقائق
- استخراج المفاهيم
- استخراج الملخصات
التنفيذ
1. نظام البحث الدلالي
from openai import OpenAI
import json
from typing import List, Dict, Any
import numpy as np
class SemanticSearchSystem:
def __init__(self, api_key: str):
self.client = OpenAI(api_key=api_key)
def search(self, query: str, documents: List[Dict[str, Any]],
search_type: str = "semantic") -> List[Dict[str, Any]]:
prompt = self._create_search_prompt(query, documents, search_type)
response = self.client.chat.completions.create(
model="gpt-3.5-turbo",
messages=[
{"role": "system", "content": "Tu es un expert en recherche sémantique."},
{"role": "user", "content": prompt}
],
temperature=0.3
)
return json.loads(response.choices[0].message.content)
def _create_search_prompt(self, query: str, documents: List[Dict[str, Any]],
search_type: str) -> str:
return f"""
Effectue une recherche {search_type} pour la requête suivante :
Requête : {query}
Documents : {json.dumps(documents, indent=2)}
Pour chaque résultat, fournis :
1. Le document pertinent
2. Le score de pertinence
3. Les raisons de la pertinence
4. Les extraits pertinents
Réponds au format JSON.
"""