ในปี ค.ศ. 1518 เจ้าชาย Vasily III แห่งมอสโกได้เชิญบาทหลวง Maximos ชาวกรีก ดีไปยังรัสเซียเพื่อแปลหนังสือพิธีกรรม ในระหว่างที่เขาอยู่นักวิชาการยังได้จัดทำรายการและขยายห้องสมุดของ Vasily III ต่อมาได้กลายเป็นห้องสมุดของ Ivan the Terrible ล ในช่วงปี 1560 ซาร์อีวานได้เปิดห้องสมุดให้ศิษยาภิบาล Johann Wettermann ดูคอลเลกชันพิเศษของหนังสือโบราณและต้นฉบับที่ผนังในห้องใต้ดินหลังคาโค้งใต้เครมลิน
บันทึกความทรงจำของ 'Wetterman' กลายเป็น หลักฐานเดียวที่บ่งชี้การมีอยู่ของห้องสมุด หลังจากที่ถูกค้นพบในศตวรรษที่ 19 การค้นหาห้องสมุดก็เริ่มขึ้น นักวิจัยเชื่อว่าอาจมีหนังสือล้ำค่าจากห้องสมุดของ Sophia Palaiologina ย่าของ Ivan the Terrible และหลานสาวของจักรพรรดิองค์สุดท้ายของ Byzantium, Constantine XI Palaeologus