ここでの「扉」は、Cell間移動用の扉のことです。

1. LockListの作成。FormListを新規で作り、家の住人NPCをそこに登録。
2. 自宅CellのEditウィンドウInterior Dataタブ内で、先ほどのLockListを登録。
3. 自宅Cellの屋外へ通じるドアに、Ownerを設定。LockListに登録した住人すべてが加入しているFactionを作ってそれを設定するのが一般的。

あとはNPCのAI Packageに施錠に関する項目があるので、寝るときは鍵をかける、家にいるときは鍵を開けておくなどを設定します。

LockList：実態はNPCが登録されたただのFormList。そのCellに通じる扉が施錠されていても自由に出入りできる権限を持ちます。扉を開ける鍵を持ってなくても通れます。扉の鍵を開けたり閉めたりする権限とは別なので注意。
扉のオーナー設定：Cell間移動用の扉を設置後、扉のReferenceを開いてOwnershipタブ内で設定します。オーナーだけが施錠、開錠の権限を持つようです。オーナー設定をすることで、扉はロード毎に状態に従って自動施錠されるそうです。基本的にFactionをオーナーとして設定し、FactionにはLockListのNPC全員を登録します。Faction=LockList=その家の住人全て、という設定が一般的。扉の施錠開錠はAI Packageの設定で行います。
扉の鍵：扉のReferenceのLockタブにて扉を開ける鍵を設定できます。LockListに登録されていないNPCをCellに整理させたいときは、そのNPCに鍵を持たせます。NPCは施錠された扉を開けてCellに入ることができます。ただしそのNPCが通った後は、扉の鍵は開きっぱなしになります。該当NPCを扉のオーナーに加えて、かつAI PackageにCellに入った後施錠する設定を加えることで、「入った後に鍵をかける」ことができるようになります。
基本的に鍵を所持していない限り、NPCは鍵のかかった扉を通れません。ピッキングも行いません。たまになにかの拍子で、鍵設定の有無にかかわらず施錠された扉を開けることがありますが、多分バグだと思います。

・Cellの状態
所有されているCellには、PrivateとPublicの状態があります。
Privateは、LockListに名前の無いActorが入ると不法侵入扱いになる状態です。扉のオーナーであるNPCが施錠を行うとPrivateに移行します。その家の鍵で扉を開けて進入した場合は不法侵入扱いにはなりません。
Publicのときは不法侵入にならない状態です。扉のオーナーNPCが扉の鍵を開けるとこの状態に移行します。
住人のNPCが順次Cellから出て行くと、最後の一人が出ていった時点でCellに通じる扉が自動施錠されます。ただし、最後に出ていったNPCが扉のオーナーである場合のみです。留守宅は必ず戸締りされる仕組みみたいです。

扉のオーナー設定を忘れると、鍵の開け閉め自体が行われなくなります。プレイヤーがピッキングで開けてしまえば、以降ずっと開けっ放しです。また鍵の開け閉めが行われないことにより、Cellの状態が常にPrivate、本来であれば施錠されている家の状態になるようです。このためプレイヤーが家に入ると不法侵入扱いとなり、警告を無視して居座り続けると通報されます。

・居候がいる場合(レイロフ、ハドバルなど)
LockListに登録されていないが、そのCellにいるNPCの扱いについてです。
基本的に、扉のオーナーが鍵を開け閉めした時だけ家の状態がPrivateやPublicに切り替わります。
そのため扉のオーナー住人がおらず、居候NPCだけが在宅中のとき、家はPrivateの状態なので不法進入になります(プレイヤーが家の住人と友人関係であれば不法にはならないようです)。不法侵入状態では、居候NPCは「お前のいる場所じゃない」と警告を発するだけで、衛兵に通報することはありません。居候NPCと仲がよくても関係ないようです。なおこの状態でオーナー住人が鍵を開ける設定で帰宅しても、家はPrivateのままです。帰宅したオーナーNPCはプレイヤーの不法侵入を咎め、衛兵を呼ぶ可能性があります。いったん外に出て入りなおせばPublicに切り替わります。