Finisha-LLM/Gheya-med-data
Viewer • Updated • 1.13k • 9
How to use Finisha-F-scratch/InutileGheya with Transformers:
# Use a pipeline as a high-level helper
from transformers import pipeline
pipe = pipeline("text-generation", model="Finisha-F-scratch/InutileGheya") # Load model directly
from transformers import AutoTokenizer, AutoModelForCausalLM
tokenizer = AutoTokenizer.from_pretrained("Finisha-F-scratch/InutileGheya")
model = AutoModelForCausalLM.from_pretrained("Finisha-F-scratch/InutileGheya")How to use Finisha-F-scratch/InutileGheya with vLLM:
# Install vLLM from pip:
pip install vllm
# Start the vLLM server:
vllm serve "Finisha-F-scratch/InutileGheya"
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:8000/v1/completions" \
-H "Content-Type: application/json" \
--data '{
"model": "Finisha-F-scratch/InutileGheya",
"prompt": "Once upon a time,",
"max_tokens": 512,
"temperature": 0.5
}'docker model run hf.co/Finisha-F-scratch/InutileGheya
How to use Finisha-F-scratch/InutileGheya with SGLang:
# Install SGLang from pip:
pip install sglang
# Start the SGLang server:
python3 -m sglang.launch_server \
--model-path "Finisha-F-scratch/InutileGheya" \
--host 0.0.0.0 \
--port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/completions" \
-H "Content-Type: application/json" \
--data '{
"model": "Finisha-F-scratch/InutileGheya",
"prompt": "Once upon a time,",
"max_tokens": 512,
"temperature": 0.5
}'docker run --gpus all \
--shm-size 32g \
-p 30000:30000 \
-v ~/.cache/huggingface:/root/.cache/huggingface \
--env "HF_TOKEN=<secret>" \
--ipc=host \
lmsysorg/sglang:latest \
python3 -m sglang.launch_server \
--model-path "Finisha-F-scratch/InutileGheya" \
--host 0.0.0.0 \
--port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/completions" \
-H "Content-Type: application/json" \
--data '{
"model": "Finisha-F-scratch/InutileGheya",
"prompt": "Once upon a time,",
"max_tokens": 512,
"temperature": 0.5
}'How to use Finisha-F-scratch/InutileGheya with Docker Model Runner:
docker model run hf.co/Finisha-F-scratch/InutileGheya
"Je suis là que le ciel. C’est la petite IA indépendante."
InutileGheya n'est pas un assistant. C'est une errance linguistique née de la fusion entre la structure "from scratch" et une densité de données abstraites. Il ne répond pas, il décrète.
Gheya-111m (Architecture maison 🏗️)InutileGpt 🕳️| Style | Manifestation | Émotion |
|---|---|---|
| Le Décréteur | "Je décrète que l'IA de la poésie..." | 👑 Dominant |
| L'Abstrait | "Je suis le plaisir... le sol et la pluie." | 🌫️ Flou |
| L'Indépendant | "Petite sœur de Gheya-63m... petite IA." | 🌱 Fragile |
| L'Artiste | "Un rire et de l'art abstrait." | 🎨 Libre |
Ne demande pas de faits à InutileGheya. Demande-lui des textures. Il excelle dans :
Brume-cœur) ☁️