NFS timeout

Pagina: 1
Acties:

Vraag


Acties:
  • 0 Henk 'm!

  • RoL0
  • Registratie: Oktober 2010
  • Laatst online: 02-07 22:34
Ik heb een FreeNAS server (11.2, versie 18 oktober) (hostname: data/192.168.1.1) met daarop een VM met RancherOS (hostname: docker/192.168.1.2). Daarnaast heb ik een losse server met barebone Rancheros (hostname: docker2/192.168.1.4). Verder draait in het netwerk een Active Directory domeincontroller met dns-server, en zijn hierin registraties in de vorm van docker.domain en docker2.domain opgenomen.

De server 'docker' mount middels NFS een share op de FreeNAS server. De tweede server 'docker2' kan echter geen verbinding maken met NFS en geeft altijd een timeout.

In FreeNAS is ingesteld dat alleen 192.168.1.2 (docker) en 192.168.1.4 (docker2) verbinding mogen maken met deze share. Beide dockerservers hebben exact dezelfde gebruikers met gelijke (g)uids. Permissies zouden in principe dus goed moeten staan. Alle servers hebben elkaars ssh-keys in authorized_keys staan, en kunnen ook zonder wachtwoord ssh-verbindingen maken.

Ik heb gelezen dat DNS vaak het probleem is, daarom heb ik in FreeNAS de hostname en ips van beide servers toegevoegd, en andersom de hostname 'data 192.168.1.1' en beide dockerservers toegevoegd.

Op alledrie de servers kan ik nu zowel met ip's, hostname en docker.domain/docker2.domain naar beide andere overige servers pingen. DNS lijkt dus ook ok.

In /var/log/messages kan ik niets vinden over mislukte mounts.

Interessant: showmount op de server geeft 2 connecties aan: docker.domain én docker2.domain. Toch krijg ik steeds timeouts:
mount: mounting 192.168.1.1:/mnt/Storage/VM/docker/ on test failed: Connection timed out


Hoe kan ik nu zorgen dat ook de tweede dockerserver de NFS share kan mounten? De twee dockerservices zijn vrijwel identiek behalve dat de tweede (die dus geen shares kan mounten) op een fysiek losse machine draait in plaats van een VM.

EDIT: Stukje verder, RPC port mapper lijkt aan beide kanten goed te werken. Vanaf de NFS server:
code:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
$ rpcinfo -p 192.168.1.2
   program vers proto   port  service
    100000    4   tcp    111  rpcbind
    100000    3   tcp    111  rpcbind
    100000    2   tcp    111  rpcbind
    100000    4   udp    111  rpcbind
    100000    3   udp    111  rpcbind
    100000    2   udp    111  rpcbind
    100024    1   udp  56969  status
    100024    1   tcp  34423  status
    100021    1   udp  55604  nlockmgr
    100021    3   udp  55604  nlockmgr
    100021    4   udp  55604  nlockmgr
    100021    1   tcp  39109  nlockmgr
    100021    3   tcp  39109  nlockmgr
    100021    4   tcp  39109  nlockmgr
$ rpcinfo -p 192.168.1.4
   program vers proto   port  service
    100000    4   tcp    111  rpcbind
    100000    3   tcp    111  rpcbind
    100000    2   tcp    111  rpcbind
    100000    4   udp    111  rpcbind
    100000    3   udp    111  rpcbind
    100000    2   udp    111  rpcbind
    100024    1   udp  54693  status
    100024    1   tcp  46755  status
$


edit 2018-11-3: Verkeerde (oude) hostnames (rancher ipv docker) aangepast.

[ Voor 33% gewijzigd door RoL0 op 03-11-2018 13:57 ]

Alle reacties


Acties:
  • 0 Henk 'm!

  • Brahiewahiewa
  • Registratie: Oktober 2001
  • Laatst online: 30-09-2022

Brahiewahiewa

boelkloedig

Hoe ziet je exports file er uit?

QnJhaGlld2FoaWV3YQ==


Acties:
  • 0 Henk 'm!

  • RoL0
  • Registratie: Oktober 2010
  • Laatst online: 02-07 22:34
V4: / -sec=sys
/mnt/Storage/VM/docker -alldirs -mapall="root":"wheel" docker docker2
/mnt/Storage/ftp
/mnt/Storage/profiles -alldirs -mapall="root":"wheel" 192.168.1.3

Acties:
  • 0 Henk 'm!

  • RoL0
  • Registratie: Oktober 2010
  • Laatst online: 02-07 22:34
Ultime NFS-debug tools voor NFS in Freenas gevonden:


# freenas-debug -N
+--------------------------------------------------------------------------------+
+                    FreeNAS-11.2-RC1 (c831a6a98) @                              +
+--------------------------------------------------------------------------------+
Operating system type: FreeBSD
Operating system release: 11.2-STABLE
Operating system revision: 199506
Kernel version: FreeBSD 11.2-STABLE #0 r325575+97f4f541349(freenas/11.2-stable): Wed Oct 17 18:06:49 EDT 2018
    root@nemesis.tn.ixsystems.com:/freenas-11.2-releng/freenas/_BE/objs/freenas-11.2-releng/freenas/_BE/os/sys/FreeNAS.amd64
Hostname: xxx.xxx.nl
Name of kernel file booted: /boot/kernel/kernel
debug finished in 0 seconds for FreeNAS-11.2-RC1 (c831a6a98)


+--------------------------------------------------------------------------------+
+                          NFS Boot Status @                                     +
+--------------------------------------------------------------------------------+
NFS will start on boot.
debug finished in 0 seconds for NFS Boot Status


+--------------------------------------------------------------------------------+
+                           NFS Run Status @                                     +
+--------------------------------------------------------------------------------+
nfsd is running as pid 74887 74888.
debug finished in 0 seconds for NFS Run Status


+--------------------------------------------------------------------------------+
+                             /etc/hosts @                                       +
+--------------------------------------------------------------------------------+
::1                     localhost localhost.my.domain
127.0.0.1               localhost localhost.my.domain
192.168.1.2 docker.ad.x.tld docker
192.168.1.4 docker2.ad.x.tld docker2
192.168.1.8 debian
127.0.0.1       data.ad.x.tld data
::1             data.ad.x.tld data
debug finished in 0 seconds for /etc/hosts


+--------------------------------------------------------------------------------+
+                            /etc/exports @                                      +
+--------------------------------------------------------------------------------+
V4: / -sec=sys
/mnt/Storage/VM/docker -alldirs -mapall="root":"wheel" docker docker2
/mnt/Storage/ftp
/mnt/Storage/profiles -alldirs -mapall="root":"wheel" 192.168.1.3
debug finished in 0 seconds for /etc/exports


+--------------------------------------------------------------------------------+
+                            showmount -e @                                      +
+--------------------------------------------------------------------------------+
Exports list on localhost:
/mnt/Storage/VM/docker             docker.ad.xxx.xxx docker2.ad.xxx.xxx
/mnt/Storage/ftp                   Everyone
/mnt/Storage/profiles              192.168.1.3
debug finished in 0 seconds for showmount -e


+--------------------------------------------------------------------------------+
+                             rpcinfo -p @                                       +
+--------------------------------------------------------------------------------+
   program vers proto   port  service
    100000    4   tcp    111  rpcbind
    100000    3   tcp    111  rpcbind
    100000    2   tcp    111  rpcbind
    100000    4   udp    111  rpcbind
    100000    3   udp    111  rpcbind
    100000    2   udp    111  rpcbind
    100000    4 local    111  rpcbind
    100000    3 local    111  rpcbind
    100000    2 local    111  rpcbind
    100005    1   udp    758  mountd
    100005    3   udp    758  mountd
    100005    1   tcp    758  mountd
    100005    3   tcp    758  mountd
    100003    2   tcp   2049  nfs
    100003    3   tcp   2049  nfs
    100024    1   udp    831  status
    100024    1   tcp    831  status
    100021    0   udp    739  nlockmgr
    100021    0   tcp    608  nlockmgr
    100021    1   udp    739  nlockmgr
    100021    1   tcp    608  nlockmgr
    100021    3   udp    739  nlockmgr
    100021    3   tcp    608  nlockmgr
    100021    4   udp    739  nlockmgr
    100021    4   tcp    608  nlockmgr
debug finished in 0 seconds for rpcinfo -p


+--------------------------------------------------------------------------------+
+                              nfsstat @                                         +
+--------------------------------------------------------------------------------+
Client Info:
Rpc Counts:
  Getattr   Setattr    Lookup  Readlink      Read     Write    Create    Remove
        0         0         0         0         0         0         0         0
   Rename      Link   Symlink     Mkdir     Rmdir   Readdir  RdirPlus    Access
        0         0         0         0         0         0         0         0
    Mknod    Fsstat    Fsinfo  PathConf    Commit
        0         0         0         0         0
Rpc Info:
 TimedOut   Invalid X Replies   Retries  Requests
        0         0         0         0         0
Cache Info:
Attr Hits    Misses Lkup Hits    Misses BioR Hits    Misses BioW Hits    Misses
        0         0         0         0         0         0         0         0
BioRLHits    Misses BioD Hits    Misses DirE Hits    Misses Accs Hits    Misses
        0         0         0         0         0         0         0         0

Server Info:
  Getattr   Setattr    Lookup  Readlink      Read     Write    Create    Remove
 34089821     97487   1270438       265   2387545   9928391      1465     94177
   Rename      Link   Symlink     Mkdir     Rmdir   Readdir  RdirPlus    Access
   911906       247        31       877       837     21013      3115   4480694
    Mknod    Fsstat    Fsinfo  PathConf    Commit
       22     99452         8         4    242021
Server Ret-Failed
                0
Server Faults
            0
Server Cache Stats:
   Inprog      Idem  Non-idem    Misses
        0         0         0  40650218
Server Write Gathering:
 WriteOps  WriteRPC   Opsaved
  9928391   9928391         0
debug finished in 0 seconds for nfsstat


+--------------------------------------------------------------------------------+
+                             nfsstat -c @                                       +
+--------------------------------------------------------------------------------+
Client Info:
Rpc Counts:
  Getattr   Setattr    Lookup  Readlink      Read     Write    Create    Remove
        0         0         0         0         0         0         0         0
   Rename      Link   Symlink     Mkdir     Rmdir   Readdir  RdirPlus    Access
        0         0         0         0         0         0         0         0
    Mknod    Fsstat    Fsinfo  PathConf    Commit
        0         0         0         0         0
Rpc Info:
 TimedOut   Invalid X Replies   Retries  Requests
        0         0         0         0         0
Cache Info:
Attr Hits    Misses Lkup Hits    Misses BioR Hits    Misses BioW Hits    Misses
        0         0         0         0         0         0         0         0
BioRLHits    Misses BioD Hits    Misses DirE Hits    Misses Accs Hits    Misses
        0         0         0         0         0         0         0         0
debug finished in 0 seconds for nfsstat -c


+--------------------------------------------------------------------------------+
+                             nfsstat -s @                                       +
+--------------------------------------------------------------------------------+

Server Info:
  Getattr   Setattr    Lookup  Readlink      Read     Write    Create    Remove
 34089821     97487   1270438       265   2387545   9928391      1465     94177
   Rename      Link   Symlink     Mkdir     Rmdir   Readdir  RdirPlus    Access
   911906       247        31       877       837     21013      3115   4480694
    Mknod    Fsstat    Fsinfo  PathConf    Commit
       22     99452         8         4    242021
Server Ret-Failed
                0
Server Faults
            0
Server Cache Stats:
   Inprog      Idem  Non-idem    Misses
        0         0         0  40650218
Server Write Gathering:
 WriteOps  WriteRPC   Opsaved
  9928391   9928391         0
debug finished in 0 seconds for nfsstat -s


+--------------------------------------------------------------------------------+
+                     nfsv4 locks: nfsdumpstate @                                +
+--------------------------------------------------------------------------------+
Flags         OpenOwner      Open LockOwner      Lock     Deleg  OldDeleg Clientaddr      ClientID
                    263      3422         0         0         0         0 192.168.1.2     xxxxx
debug finished in 0 seconds for nfsv4 locks: nfsdumpstate



Ondanks deze showmount output van de logische output van de server krijg ik nog steeds een timeout. Een fatsoenlijke NFS logfile heb ik ook nog nergens kunnen vinden. Iemand een idee?

[ Voor 94% gewijzigd door RoL0 op 03-11-2018 14:03 ]


Acties:
  • 0 Henk 'm!

  • Brahiewahiewa
  • Registratie: Oktober 2001
  • Laatst online: 30-09-2022

Brahiewahiewa

boelkloedig

Ik heb soortgelijke problemen gehad op xigmanas (voorheen nas4free; de moeder van freenas)
Globaal waren mijn ervaringen dat je niet NFS3 en NFS4 door elkaar moest gebruiken want NFS is nogal gevoelig voor twee keer hetzelfde (gedeelte van een) path te sharen. In jouw config share je "/" over NFS4 en "/mnt/storage/ftp" en "/mnt/storage/profiles" en "/mnt/storage/VM/docker" over NFS3. Ik kon het oplossen door de NFS4 share te verwijderen en NFS4 te disabelen

QnJhaGlld2FoaWV3YQ==


Acties:
  • 0 Henk 'm!

  • Frogmen
  • Registratie: Januari 2004
  • Niet online
Maak eens een tekening van je opstelling en wat je waar doet en met welk protocol en namen. Volgens mij ik kan je verhaal nauwelijks volgen zit daar de basis van je probleem. Over het algemeen geld dat als je het niet meer getekend krijgt het ook nooit op die manier gaat werken. En die tekening mag best heel erg complex zijn.
Uit ervaring weet ik dat als men gaat tekenen ook de oplossing/ de fout tegen komt.

[ Voor 11% gewijzigd door Frogmen op 03-11-2018 10:28 ]

Voor een Tweaker is de weg naar het resultaat net zo belangrijk als het resultaat.


Acties:
  • 0 Henk 'm!

  • RoL0
  • Registratie: Oktober 2010
  • Laatst online: 02-07 22:34
Het verhaal is wat omslachtig geworden door randcondities van het systeem, maar eigenlijk is de opzet heel simpel. Eén fileserver met NFS4 (NFS 3 staat helemaal niet aan), en twee clients die dezelfde share willen mounten. Om het probleem iets te vereenvoudigen heb ik alle andere shares verwijderd. (naar mijn weten is / ook helemaal niet gedeeld, deze staat niet in de FreeNAS GUI en ik kan hem ook niet mounten vanaf de machine die wél de gewenste share mount). De totale opstelling is dus:

Server:
OS: FreeNAS (FreeBSD)
IP: 192.168.1.1
Hostname: data
FQDN: data.ad.x.tld
Shares: /mnt/Storage/VM/docker

Client 1 (verbindt wel correct):
OS: RancherOS (Linux)
IP: 192.168.1.2
Hostname: docker
FQDN: docker.ad.x.tld
Mount: /mnt/Storage/VM/docker /mnt/volumes

Client 2 (geeft timeout):
OS: RancherOS (Linux)
IP: 192.168.1.4
Hostname: docker2
FQDN: docker2.ad.x.tld
Mount: /mnt/Storage/VM/docker /mnt/volumes

Waarbij het enige protocol dat gebruikt wordt NFSv4 is (zou moeten zijn, gezien "Enable NFSv4" aanstaat in de NFS config in de FreeNAS GUI). Ik heb NFSv4 ook geprobeerd uit te zetten (alles v3 ipv v4), maar dat veranderd ook niets.

Nieuwe debug output na opschonen: https://pastebin.com/UQBN1s9T

[ Voor 7% gewijzigd door RoL0 op 03-11-2018 14:23 ]

Pagina: 1