Optimizing computational infrastructure for AI driven research
Loading...
URL
Journal Title
Journal ISSN
Volume Title
School of Science |
Master's thesis
Unless otherwise stated, all rights belong to the author. You may download, display and print this publication for Your own personal use. Commercial use is prohibited.
Authors
Date
2024-12-21
Department
Major/Subject
Strategy
Mcode
Degree programme
Master's Programme in Industrial Engineering and Management
Language
en
Pages
73
Series
Abstract
The recent advancements in AI have brought new opportunities for conducting research across the fields. With the new opportunities, the need for significant computing power is constantly growing. Traditionally, HPC systems have answered the demands for more demanding computing in more computational fields. However, the relevance of computational power is now growing also in previously not so computational fields. This spreading adoption is increasing the pressure on existing infrastructure while also raising issues with varying levels of preparedness of people from different backgrounds to adopt these new technologies. This research explores needs and challenges in the current computational environment of Aalto University, and opportunities for improvements. The research was conducted with design science approach, where the data was collected through interviews with students, researchers, and personnel responsible for IT resources. Qualitative analysis on the interviews was conducted with the Gioia method, resulting in comprehensive understanding of the environment and identification of key business needs. The artifact created in this research provides direct practical insights for Aalto University. The key observations it addresses are accessibility and ease of use of computational resources, GPU bottlenecks, need for an experimentation environment, and the importance of effective support, documentation, communication, and feedback mechanisms. The proposed expansion of GPU capacity in the VDI environment and development of a Kubernetes cluster, together with creating robust supporting measures for the cluster and overall operations enables Aalto University to both address current challenges and adapt in the long run. This ensures support for academic and research goals and competitiveness as a research institute that fosters innovation. While this research offers highly contextual insights, it can also act as a guide in the broader scope of research organizations. The results highlight emerging challenges with the spreading adoption of computational resources and can act as strategic framework for designing inclusive and adaptable computational environments.Viimeaikaiset edistykset tekoälyssä ovat luoneet uusia mahdollisuuksia tutkimukselle läpi tieteenhaarojen. Uusien mahdollisuuksien myötä tarve huomattavalle laskentateholle kasvaa jatkuvasti. Perinteisesti HPC systeemit ovat vastanneet vaativamman laskennat tarpeisiin laskennallisilla aloilla. Nyt kuitenkin laskentatehon merkitys kasvaa myös vähemmän laskennallisilla aloilla. Tämä leviävä omaksuminen lisää painetta olemassa olevaan infrastruktuuriin ja nostaa esille ongelmia uusien teknologioiden käyttöönotossa ihmisten erilaisista taustoista johtuen. Tämä tutkimus selvittää Aalto-yliopiston nykyisen laskennallisen ympäristön tarpeita ja haasteita, sekä mahdollisuuksia parannuksille. Tutkimus toteutettiin suunnittelutiede (eng. design science) menetelmällä, jossa data kerättiin haastattelemalla opiskelijoita, tutkijoita ja henkilökuntaa. Haastatteluiden kvalitatiivinen analysointi toteutettiin Gioia metodilla, johtaen kattavaan ymmärrykseen kyseisestä ympäristöstä ja merkittävimpien tarpeiden tunnistamiseen. Tässä tutkimuksessa luotu artefakti tarjoaa suoria käytännöllisiä oivalluksia Aaltoyliopistolle. Merkittävimmät havainnot, joihin se vastaa ovat laskennallisten resurssien saavutettavuus ja helppokäyttöisyys, GPU pullonkaulat, tarve kokeiluympäristölle ja tehokkaiden tuki, dokumentaatio, kommunikaatio ja palaute mekanismien tärkeys. Ehdotettu GPU kapasiteetin laajentaminen VDI ympäristössä ja Kubernetes klusterin kehitys, sekä vahvojen tukimekanismien luominen klusterille ja myös muille operaatioille mahdollistaa Aalto-yliopiston vastata nykyisiin haasteisiin sekä mukautua pitkällä juoksulla. Tämä varmistaa akateemisten ja tutkimustyön tavoitteiden tukemisen sekä kilpailukyvyn tutkimuslaitoksena, joka edistää innovaatiota. Vaikka tämä tutkimus esittää erittäin kontekstuaalisia oivalluksia, se voi myös toimia oppaana tutkimus organisaatioiden laajemmassa ulottuvuudessa. Nämä tulokset nostavat esille laskennallisten resurssien leviävästä omaksumisesta nousevia haasteita ja voivat toimia strategisena viitekehyksenä kattavien ja mukautuvien laskennallisten ympäristöjen suunnittelussa.Description
Supervisor
Karhu, KimmoThesis advisor
Saranpää, TommiKeywords
AI, computational resources, HPC, information technology infrastructure, research, design science