Quando executado o comando testparm do Samba se retornar
rlimit_max: increasing rlimit_max (1024) to minimum Windows limit (16384)

Siga esses passos:
Digitar ulimit -a deve aparecer algo assim:

core file size (blocks, -c) 0
data seg size (kbytes, -d) unlimited
scheduling priority (-e) 0
file size (blocks, -f) unlimited
pending signals (-i) 127382
max locked memory (kbytes, -l) 64
max memory size (kbytes, -m) unlimited
open files (-n) 1024
pipe size (512 bytes, -p) 8
POSIX message queues (bytes, -q) 819200
real-time priority (-r) 0
stack size (kbytes, -s) 10240
cpu time (seconds, -t) unlimited
max user processes (-u) 127382
virtual memory (kbytes, -v) unlimited
file locks (-x) unlimited

Pode-se verificar que o numero de arquivos por usuário está limita em 1024 para atualizar isso
conforme o samba deseja.
Edite o arquivo limits.conf, e acrescente no final.

* – nofile 16384

[root@centos5 ~]# vi /etc/security/limits.conf
Após edição, reinicie o equipamento
Faça novamente o login e digite ulimit -a
Veja se alterou o parâmetro
open files (-n) 16384