Дэлхийн спортын хөгжил Олон улсын олимпийн хороог хэн толгойлохоос хамаарна. Эцсийн эцэст, Олимпийн хорооны тэргүүн нь зөвхөн албан тушаалтан биш, асар их итгэл найдвар хүлээлгэсэн хүн бөгөөд түүнд хүнд хэцүү даалгаварууд тулгардаг. Тиймээс санамсаргүй хүн ийм газарт байж чадахгүй.
Олон улсын олимпийн хорооны тэргүүн нь ерөнхийлөгч юм. Энэ бичлэг нь сонгон хичээллэдэг. Хорооны даргыг тусгайлан зохион байгуулсан хуралдаанаар нууц санал хураалтаар сонгодог. ОУОХ-ны тэргүүний бүрэн эрхийн хугацааг 8 жилээр тооцдог боловч дөрвөн жил тутамд дахин 8 жилээр сунгаж болно. Нутгийнхаа сайн сайхны төлөө, дэлхийн хөгжилд зориулж хийсэн илтгэл, буяны болон бусад үйлсээрээ олонд танигдсан, нэрд гарсан олон нийтийн зүтгэлтэн тус хорооны ерөнхийлөгч болж чадна.
Анхны ерөнхийлөгчийг 1894 онд Олимпийн хороо байгуулагдсанаар сонгосон. Тэрээр Грекийн яруу найрагч, Деметриус Викелас хэмээх олон нийтийн зүтгэлтэн байв. Түүний орлогчоор энэ цагийн анхны Олимпийн наадмын үзэл суртлын санаачлагч Барон Пьер де Кубертен томилогджээ. Гэсэн хэдий ч Анхны наадам ялгуусан явагдсанаас хойш хоёр жилийн дараа Викеласыг ОУОХ-ны ерөнхийлөгчтэй ижил Барон де Кубертинээр сольсон. Тэрээр энэ албан тушаалд 1925 он хүртэл ажилласан.
Эрх мэдлийг сунгаж болох тул Олон улсын спортын хорооны даргын албан тушаалд 100 гаруй жилийн хугацаанд ердөө 8 ерөнхийлөгч зочилсон байна.
Де Кубертены оронд 17 жил удирдах албан тушаал хашиж байсан Анри де Боле-Латурыг орлуулав. Дараагийнх нь Зигфрид Эдстром байсан бөгөөд тэрээр 1946-1952 онуудад ерөнхийлөгч байжээ. Түүний оронд АНУ-ын Эвери Брандейжийг томилов. Тэрээр ОУОХ-ийг 1972 он хүртэл 20 жил удирдсан. Түүний залгамжлагч Майкл Моррис Килланин нь Ирланд бөгөөд Хорооны даргаар нэг удаа ажиллажээ. Үүний дараа Хуан Антонио Самаранч 21 жилийн турш толгой дээр гарч ирэв. 2001 оноос өнөөг хүртэл Олон улсын олимпийн хорооны ерөнхийлөгчөөр Бельгийн иргэн Жак Рогге ажиллаж байна.
Гэсэн хэдий ч Ерөнхийлөгч дангаараа хороог удирдаж чадахгүй байсан. Тиймээс 4 дэд ерөнхийлөгч, хорооны энгийн 10 гишүүн гэх мэт туслах удирдагчид бас байдаг бөгөөд тэд нууц санал хураалтаар сонгогддог. Тэдний бүрэн эрхийн хугацаа 4 жил байна. Нэмж дурдахад, удирдах хороонд "хүндэт" гэж нэрлэгддэг 25 хүн багтдаг бөгөөд эдгээр нь өмнө нь хорооны гишүүн байсан хүмүүс юм. ОУОХ-нд Олимпийн хорооны гишүүн бус боловч хөдөлгөөнд үнэлж баршгүй үйлчилгээ үзүүлж байсан нэр хүндтэй гишүүд багтдаг.
Хорооны бүрэлдэхүүнд дэлхийн 70 орны 110 гишүүн багтдаг. Үйл ажиллагааны зарчим нь дараахь байдалтай байна: Олон улсын олимпийн хорооны гишүүн хүмүүс нь тухайн улс дахь төлөөлөгчид биш харин эсрэгээрээ эх орондоо зохицуулах байгууллагыг төлөөлдөг.