Instructions to use Finisha-F-scratch/Charlotte-gheya with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- Transformers
How to use Finisha-F-scratch/Charlotte-gheya with Transformers:
# Use a pipeline as a high-level helper from transformers import pipeline pipe = pipeline("text-generation", model="Finisha-F-scratch/Charlotte-gheya")# Load model directly from transformers import AutoTokenizer, AutoModelForCausalLM tokenizer = AutoTokenizer.from_pretrained("Finisha-F-scratch/Charlotte-gheya") model = AutoModelForCausalLM.from_pretrained("Finisha-F-scratch/Charlotte-gheya") - Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- vLLM
How to use Finisha-F-scratch/Charlotte-gheya with vLLM:
Install from pip and serve model
# Install vLLM from pip: pip install vllm # Start the vLLM server: vllm serve "Finisha-F-scratch/Charlotte-gheya" # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:8000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Finisha-F-scratch/Charlotte-gheya", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }'Use Docker
docker model run hf.co/Finisha-F-scratch/Charlotte-gheya
- SGLang
How to use Finisha-F-scratch/Charlotte-gheya with SGLang:
Install from pip and serve model
# Install SGLang from pip: pip install sglang # Start the SGLang server: python3 -m sglang.launch_server \ --model-path "Finisha-F-scratch/Charlotte-gheya" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Finisha-F-scratch/Charlotte-gheya", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }'Use Docker images
docker run --gpus all \ --shm-size 32g \ -p 30000:30000 \ -v ~/.cache/huggingface:/root/.cache/huggingface \ --env "HF_TOKEN=<secret>" \ --ipc=host \ lmsysorg/sglang:latest \ python3 -m sglang.launch_server \ --model-path "Finisha-F-scratch/Charlotte-gheya" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Finisha-F-scratch/Charlotte-gheya", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }' - Docker Model Runner
How to use Finisha-F-scratch/Charlotte-gheya with Docker Model Runner:
docker model run hf.co/Finisha-F-scratch/Charlotte-gheya
Exemples de générations
Je suis trop perfectionniste perfectionniste.
est une d'assurer que mondialisation, en tant que le pation. L'espoir est de L'espoir de la réréréréréissant la croissance et de l'utilisateur.que les autres ?Réponse:L'espoir est un potentiel d'un individation, mais l'autre, mais l'innovation et de la preuve de la qualité et de la confiance de l'apprentissage.
mais de la créativité ?Réponse:L'espoir est un développeur, mais l'utilisateur, l'autre, l'histoire et la bienveillance. L'espoir est la confiance à l'éthique du temps, mais le risque de la créativité.
en aide à la pression ?Réponse:L'espoir est un modèle, mais l'éthique de l'autre. Il est le lien entre la vie, le risque, mais de la Réponse:ES-delà du monde, et le modèle.
mais de parler une décision ?Réponse:L'espoir est un modèle d'une seule seule seule seule seule seule seule seule seule seule seule seule seule seule seule force de la vérité. Les Les gens ne s'assurer que l'autre, en une structure d'une seule seule seule avec la vie du temps.
et les modèles d'une idée de l'autre ?Réponse:L'amitié peut être un système s'appapplique-même, mais l'utilisation des réponses responsables, ce qui actions d'une IA indépendante et de la chance de l'autre.
que la 'l' dans le lien entre deux éléments' ?Réponse:L'espoir est un soutien est un ami. L'espoir est un système. L'espoir est une décision de la vie, mais de la capacité à l'on écoute la vie.
mais de l'espoir ?Réponse:L'espoir peut être un acte. Il permet de la métmétmétméthohohohohohohohohoho commeomme le sens. L'espoir est un persers, mais elle se traduit par l'on écoute de information.
mais de l'IA-IA ?Réponse:La confiance est un outil d'un soutien. L'éthique exige la conviction que l'on ne peut être un outil, mais l'autre, mais valeuraleur et la confiance et la confiance.
que l'éthique ?Réponse:L'espoir est un outil d'un monde devient un ami. Il peut être un ppper les information. L'espoir est un modèle de l'L'espoir, les dur et votre temps de l'éthique de l'apprentissage.