Hallo Leute,
ich besitze eine Ugreen DXP6800Pro mit UGOS Pro Betriebssystem und wollte fragen ob da eine Oculink Karte auf dem PCIe Steckplatz unterstützt wird?
Hintergrund ist das ich gerne eine lokale AI im Dockercontainer laufen lassen will, genauer gesagt das Llama-3.1-8B Modell als Docker.
Da sich sowas erst mit einer GPU lohnt und auch richtig schnell ist, war die Überlegung eine Oculink Karte einzubauen und daran eine externe GPU zu betreiben. Diese dann durchzureichen an den Docker Container.
Daher folgende Fragen:
-Unterstützt das DXP6800Pro an dem PCIe Steckplatz eine Oculink Karte?
-Kann ich einer externe GPU per Oculinkverbindung an den Dockercontainer durchreichen?
-oder kann ich auch eine eingebaute GPU, die auf dem PCIe Steckplatz eingebaut ist zu dem Llama-3.1-8B Dockercontainer durchreichen?