OpenLDAP目录中的信息是以树状的层次结构来存储数据，最顶层即根部称作“基准DN”，形如“dc=domain,dc=com”或者“o=domain.com”，前一种方式更为灵活也是Windows AD中使用的方式。在根目录的下面有很多的文件和目录，为了把这些大量的数据从逻辑上分开，OpenLDAP像其它的目录服务协议一样使用OU（Organization Unit，组织单元），可以用来表示公司内部机构，如部门等。同时OU还可以有子OU，用来表示更为细致的分类。

OpenLDAP中每条记录都有唯一（主键）的名字DN（Distinguished Name）,其处在“叶子”位置的部分称作RDN(用户条目的相对标识名)。如dn:cn=user1,ou=dept1,dc=domain,dc=com中cn即为RDN，而RDN在一个OU中必须是唯一的。