Η παρούσα διπλωματική εργασία παρουσιάζει ένα μεθοδολογικό πλαίσιο εφαρμογής του YOLOv9 για τμηματοποίηση πυρήνων στο PanNuke και παραθέτει συγκριτική βιβλιογραφική ανάλυση με αρχιτεκτονικές Vision Transformer. Η επιλογή του PanNuke, ενός συνόλου δεδομένων που περιλαμβάνει πολυκατηγορικές μάσκες τμηματοποίησης για πυρήνες κυττάρων, προσδίδει ιδιαίτερη έμφαση στη δυσκολία του προβλήματος, αλλά και στη χρησιμότητα των αποτελεσμάτων στην ιατρική διάγνωση.

Η υλοποίηση του μοντέλου YOLOv9 απαιτούσε σημαντικές τροποποιήσεις στην αρχιτεκτονική, τις ρουτίνες απώλειας και τις παραμέτρους εκπαίδευσης, ώστε να υποστηρίζει πλήρως την εργασία της τμηματοποίησης. Στο πλαίσιο αυτό, σχεδιάστηκε και εφαρμόστηκε εξειδικευμένη διαδικασία προεπεξεργασίας δεδομένων, με στόχο τη μετατροπή των ετικετών του PanNuke στη μορφή που απαιτεί το YOLOv9.

Τα πειραματικά αποτελέσματα καταδεικνύουν τα πλεονεκτήματα και τους περιορισμούς κάθε προσέγγισης. Το YOLOv9 υπερτερεί σε ταχύτητα και απόδοση σε περιορισμένα υπολογιστικά περιβάλλοντα. Επιπλέον, εντοπίστηκαν τεχνικές προκλήσεις στην εκπαίδευση του YOLOv9, ιδίως σε θέματα αναντιστοιχίας διαστάσεων tensor και συμβατότητας ετικετών, οι οποίες αντιμετωπίστηκαν μέσω τροποποιήσεων στη συνάρτηση απώλειας και στη διαμόρφωση των δεδομένων.

This thesis presents a methodological framework for implementing YOLOv9 for nuclei segmentation on PanNuke dataset and provides a comparative literature analysis with Vision Transformer architectures. PanNuke comprises complex, multi-class segmentation masks for cell nuclei across various tissue types, making it an ideal benchmark for assessing model performance in medical imaging applications.

The YOLOv9 model was extensively modified to support segmentation tasks, requiring custom adaptations to its architecture, configuration files, loss function, and training script. A specialized preprocessing pipeline was developed to convert PanNuke annotations into the YOLOv9-compatible format.

Experimental results highlight the strengths and limitations of  YOLOv9 demonstrates superior speed and is more suitable for low-resource environments, making it attractive for real-time medical applications. The study also addresses technical challenges encountered during the training of YOLOv9, such as tensor dimensional mismatches and label format incompatibilities, which were resolved through tailored modifications to the loss function and data configuration.

The findings offer actionable insights for the design of robust medical image analysis systems and provide a foundation for future improvements. The thesis concludes with proposals for optimizing the model of YOLOv9 and discusses the feasibility of integrating such segmentation frameworks into clinical workflows, as well as its potential extension to other histopathological datasets.