Enligt nyhetssidan European Pravda misslyckades den ryska kandidaten Kirill Gevorgyan att säkra en plats, och besegrades istället av den tidigare rumänska utrikesministern Bogdan Aurescu.
Aurescu fick 117 röster från FN:s generalförsamling, vilket var betydligt fler än de 77 röster som den ryska kandidaten fick.
Valet markerar en betydande förändring då representanter från de permanenta medlemmarna i säkerhetsrådet, som Ryssland, traditionellt har haft en plats i Internationella domstolen.
Mykola Hnatovsky, en internationell jurist och domare vid Europadomstolen för mänskliga rättigheter, betonade vikten av resultatet och noterade att det för första gången inte kommer att finnas en sovjetisk/rysk domare i domstolen.
Bogdan Aurescu har en framstående karriär inom utrikesfrågor och har lett Rumäniens utrikesministerium från november 2019 till juni 2023 och kort under 2014-2015.
Internationella domstolen, som ligger i Haag, består av 15 domare där nya domare väljs vart tredje år.
Varje domare representerar en regional grupp av länder och måste säkra stöd från både säkerhetsrådet och FN:s generalförsamling.
Denna utveckling sker vid en tidpunkt då Internationella domstolen hanterar flera klagomål från Ukraina mot Ryssland, inklusive anklagelser om att använda förevändningen "folkmord i Donbas" för att motivera sin fullskaliga invasion.
Denna förändring i domstolens sammansättning kan få konsekvenser för de pågående rättsliga tvisterna som involverar Ryssland.