Feature Space Density Estimation on Foundation Model Predictions

Abstract

In this work, a method requiring a relatively low amount of manually processed data is studied for producing bilberry yield estimates from image data. The method consist of three stages: first, the images are segmented using Segment Anything Model. The segments are then encoded into features, and lastly, Gaussian mixture model is used for separating bilberry segments from other segments. Additionally, we perform post-processing to further improve the classification accuracy. The model is trained using a relatively small number of manually selected bilberry segments, the number of which is increased by means of data augmentation. The performance of the model is evaluated by calculating true berry counts for 154 images and comparing the predictions of the model to those by using linear regression. A clear positive correlation is observed between the predictions of the model and the true berry counts with Pearson correlation coefficient 0.9. This signifies that the model performs relatively well in producing predictions.

Tässä työssä tutkitaan pienellä määrällä käsintuotettua dataa koulutettavaa menetelmää mustikkasatoennusteiden luomiseksi kuvadatasta. Menetelmä koostuu kolmesta vaiheesta: ensin kuvat segmentoidaan käyttäen Segment Anything -mallia. Tämän jälkeen segmenteille muodostetaan piirrevektorit, ja lopuksi segmentit luokitellaan käyttäen Gaussin sekoitemallia. Lisäksi saadut ennusteet jälkikäsitellään luokittelutarkkuuden parantamiseksi. Malli koulutetaan käyttäen suhteellisen pientä määrää käsin valikoituja mustikkasegmenttejä ja lisäämällä koulutusdataa keinotekoisesti. Mallin suoriutumista arvioidaan laskemalla ennusteet marjamääristä 154 kuvalle, ja mallin antamia ennusteita verrataan todellisiin kuvista laskettuihin marjamääriin lineaarisen regression avulla. Mallin antamien ennusteiden ja todellisten marjamäärien välillä havaitaan selkeä positiivinen korrelaatio, jolle lasketun Pearsonin korrelaatiokertoimen arvo 0,9 kertoo mallin suorituvan suhteellisen hyvin ennusteiden tuottamisesta.