Aus deinem Post schließe ich einfach mal, dass du noch nichts mit dem Protected-Mode gemacht hast, richtig?
Dann würde ich dir raten mit dem Protected-Mode ein bisschen rumzuspielen und das am Besten unter möglichst einfachen Bedingungen: Ich würde mal versuchen in einem Bootsektor einfach in den Protected-Mode (GDT laden, cr0) zu springen und dort irgendwas auszugeben. Dann kann man sich an Interrupts & IDT wagen und so weiter... Das soll jetzt nicht heißen, dass du einen funktionalen Bootsektor schreiben sollst. Dazu ist grub weit besser geeignet. Es geht nur darum Erfahrungen mit dem Protected-Mode zu sammeln. Wenn du dann richtig in die Kernelentwicklung einsteigst würde ich dir dann grub empfehlen, welcher für dich schon in den Protected-Mode springt, andere Dateien (außer dem Kernel) noch für dich laden kann, etc... In den Kernel dann auch als erstes GDT, IDT, Interrupthandler, Routinen zur Textausgabe, kleiner Tastaturtreiber etc... einbauen, danach kann man sich vllt an einen ELF bzw. PE-Loader machen, welcher ein von Grub geladenes Modul ausführt.
Paging würde ich für den Anfang mal weglassen, dann dürfte nur verwirrend sein. Du wirst es aber später auf alle Fälle benutzen wollen.
Stell dich schonmal drauf ein, dass du mehrmals mit deinem Kernel von vorne beginnst, bis dabei wirklich was rauskommt.