Hactar
Présentation
- Hactar est un noeud de calcul LLM expérimental, hébergé à l'UNIGE et mis en place par le Pôle d’Innovation Numérique (PIN) et la Cellule R&D.
- Il met à disposition des ressources pour développer des services basés sur l'IA générative et permet d'exploiter plus de 40 modèles (LLM) dits "open source" en local.
- Déjà utilisé dans plusieurs projets étudiant-es et collaborateurs-trices de l'UNIGE, Hactar est un outil clé pour l'innovation en intelligence artificielle générative.
Sensibilité des données
Soyez vigilant-es quant à la la sensibilité des données que vous confiez aux outils d’IA et lisez attentivement la classification des informations selon leur degré de sensibilité:
- Recommandé pour les usages impliquant des données publiques et internes non-sensibles
- Non autorisé pour les données personnelles ou hautement sensibles
Fonctionnalités
- Intégration possible via API (Application Programming Interface) pour l'extension/développement d'applications ou services numériques
- Accès à 40+ LLM "open source" : divers modèles pour répondre à différents besoins
- Mode discussion : interaction en utilisant un langage naturel et fluide, adapté à chaque conversation
- Génération de contenu textuel : création de poèmes, d’histoires, de code, d’essais, de chansons
- Amélioration du contenu : suggestions, corrections ou améliorations pour vos contenus
- Recherche d’informations : recherches et génération de réponses sous forme de dialogue
- Aide à la programmation : écrit, explique et corrige du code dans différents langages informatiques
- Authentification via ISIs
Spécificités
Hactar est doté des caractéristiques techniques suivantes :
- GPU: 2xAMD Radeon Pro W7900 48GB GDDR6
- CPU: AMD Ryzem Threadripper PRO 5955WX 16-Cores
- RAM: 128GB ECC DDR4
- OS: Ubuntu 24.04 LTS
Le framework déployé est basé sur Ollama, Open WebUI et avec authentification ISIs.
Formation
Différentes ressources sont disponibles sous les liens suivants pour les formations et une documentation complète :
- Interface Web: https://hactar.unige.ch
- Ollama: Documentation officielle de l'API
- Base URL: https://hactar.unige.ch/ollama
- LangChain: https://www.langchain.com
Comment accéder à Hactar ?
- Faire une demande de création de compte