Diese Funktionalität hat sich in V4.6.x geändert - daher nützt Dir auch der Hinweis auf das Verhalten in V4.4.x wenig...
Bitte die Suche benutzen. Wenn Du gesucht hättest, hättest Du vermutlich Hinweise zu dem Thema finden können, z.B. unter Tips & Tricks V4.6 (Wie das mit geschützten Kategorien funktioniert:
http://www.contenido.org/forum/viewtopic.php?t=13925).
Die Login-Maske ist das Frontend-Login (welches in V4.6.15 und vorher nicht für Frontend User funktioniert, Bug). Auch sind in V4.6.15 Frontend- und Backend User getrennt.
Eine Migration ist über ein Skript möglich (Tips & Tricks V4.6:
http://www.contenido.org/forum/viewtopic.php?t=11473)
Aber wie gesagt, das Login über diese Login-Seite funktioniert nicht für Frontend User. Daher solltest Du die im ersten Link erwähnte Einstellung in den Mandanten-Einstellungen vornehmen - diese leitet den Nutzer auf Deine Login-Seite weiter (einfaches Login-Modul mit Feldern für Username und Passwort - das funktioniert).
Generell wird ab V4.6.x die Logik verfolgt, dass man sich erst anmeldet und dann die geschützte Kategorie sieht. Dafür ist ein entsprechendes Hauptnavigationsmodul erforderlich. Sowohl Login- als auch Hauptnavigations-Modul (aus dem man die Funktionen abkupfern könnte) finden sich im Beispiel-Mandanten einer aktuellen Contenido-Installation.
Alternativ kannst Du auch den Fehler in der local.php beheben, der die Anmeldung über das hässliche Login-Fenster verhindert (siehe Bugs V4.6, Stichwort Warum Login über front_crclogin usw. nicht funktioniert).
Gruß
HerrB