Gentoo Forums
Gentoo Forums
Gentoo Forums
Quick Search: in
iSCSI и ядро x86_64-2.6.29-gentoo-r4
View unanswered posts
View posts from last 24 hours

 
Reply to topic    Gentoo Forums Forum Index Russian
View previous topic :: View next topic  
Author Message
ArhAngel
n00b
n00b


Joined: 21 Mar 2009
Posts: 6

PostPosted: Tue Jul 07, 2009 4:46 am    Post subject: iSCSI и ядро x86_64-2.6.29-gentoo-r4 Reply with quote

Hi!
Я использую часть файлового (Linux diskraid2 2.6.29-gentoo-r4 #2 SMP Thu May 21 10:55:50 IRKST 2009 x86_64 Intel(R) Xeon(R) CPU E5335 @ 2.00GHz GenuineIntel GNU/Linux) хранилища как iSCSI
На машине стоит RAID-5 на hardware raid-controller Adaptec ASR-31605
Всё хранилише разделено на два RAID-а ( /dev/sda и /dev/sdb)
/dev/sdb весь отдаётся по iscsi

Code:
[i][b]diskraid2 / #[/b] cat /etc/ietd.conf
Target iqn.2009-05.ru.qqq.diskraid2:iSCSI.Win.disk1
        Lun 0 Path=/dev/sdb,Type=fileio
        MaxConnections          4  <<--- нужно чтобы 4 сервака писали в разные диры свои файлы
        InitialR2T              No
        ImmediateData           Yes
        MaxRecvDataSegmentLength        262144
[/i]


Проблема!!
Сервер часто (раз в 2-3 дня) подвисает при этом "плюётся" такими логами
Последние минуты жизни
Code:

Jul  7 11:11:48 diskraid2 BUG: soft lockup - CPU#2 stuck for 61s! [nfsd:13573]
Jul  7 11:11:48 diskraid2 BUG: soft lockup - CPU#2 stuck for 61s! [nfsd:13573]
Jul  7 11:11:48 diskraid2 BUG: soft lockup - CPU#2 stuck for 61s! [nfsd:13573]

Jul  7 11:11:48 diskraid2 Pid: 13573, comm: nfsd Tainted: G      D    2.6.29-gentoo-r4 #2 X7DB8
Jul  7 11:11:48 diskraid2 Pid: 13573, comm: nfsd Tainted: G      D    2.6.29-gentoo-r4 #2 X7DB8
Jul  7 11:11:48 diskraid2 RIP: 0010:[<ffffffff8046ace9>]  [<ffffffff8046ace9>] 0xffffffff8046ace9
Jul  7 11:11:48 diskraid2 RIP: 0010:[<ffffffff8046ace9>]  [<ffffffff8046ace9>] 0xffffffff8046ace9
Jul  7 11:11:48 diskraid2 RSP: 0018:ffff88012b795b10  EFLAGS: 00000287
Jul  7 11:11:48 diskraid2 RSP: 0018:ffff88012b795b10  EFLAGS: 00000287
Jul  7 11:11:48 diskraid2 RAX: 0000000000000001 RBX: 0000000000000000 RCX: ffff880061f0bc80
Jul  7 11:11:48 diskraid2 RAX: 0000000000000001 RBX: 0000000000000000 RCX: ffff880061f0bc80
Jul  7 11:11:48 diskraid2 RDX: 0000000000000000 RSI: 0000000000000282 RDI: ffff88012d2cc43c
Jul  7 11:11:48 diskraid2 RDX: 0000000000000000 RSI: 0000000000000282 RDI: ffff88012d2cc43c
Jul  7 11:11:48 diskraid2 RBP: ffffffff8020c9ee R08: 0000000000000002 R09: 0000000000000008
Jul  7 11:11:48 diskraid2 RBP: ffffffff8020c9ee R08: 0000000000000002 R09: 0000000000000008
Jul  7 11:12:15 diskraid2 R10: 00000000ffffffff R11: ffff88002804f140 R12: ffff880038a39820
Jul  7 11:12:15 diskraid2 R10: 00000000ffffffff R11: ffff88002804f140 R12: ffff880038a39820
Jul  7 11:12:15 diskraid2 R13: ffffffff80464617 R14: 0000000000000282 R15: ffff8800a58a4200
Jul  7 11:12:15 diskraid2 R13: ffffffff80464617 R14: 0000000000000282 R15: ffff8800a58a4200
Jul  7 11:12:15 diskraid2 FS:  0000000000000000(0000) GS:ffff88012f0f3c40(0000) knlGS:0000000000000000
Jul  7 11:12:15 diskraid2 FS:  0000000000000000(0000) GS:ffff88012f0f3c40(0000) knlGS:0000000000000000
Jul  7 11:12:15 diskraid2 CS:  0010 DS: 0018 ES: 0018 CR0: 000000008005003b
Jul  7 11:12:15 diskraid2 CS:  0010 DS: 0018 ES: 0018 CR0: 000000008005003b
Jul  7 11:12:15 diskraid2 CR2: 0000000000433000 CR3: 000000012b424000 CR4: 00000000000006e0
Jul  7 11:12:15 diskraid2 CR2: 0000000000433000 CR3: 000000012b424000 CR4: 00000000000006e0
Jul  7 11:12:15 diskraid2 DR0: 0000000000000000 DR1: 0000000000000000 DR2: 0000000000000000
Jul  7 11:12:15 diskraid2 DR0: 0000000000000000 DR1: 0000000000000000 DR2: 0000000000000000
Jul  7 11:12:15 diskraid2 DR3: 0000000000000000 DR6: 00000000ffff0ff0 DR7: 0000000000000400
Jul  7 11:12:15 diskraid2 DR3: 0000000000000000 DR6: 00000000ffff0ff0 DR7: 0000000000000400
Jul  7 11:12:15 diskraid2 Call Trace:


http://pastebin.com/m2c24b565 - полный лог здесь, L.K.

И на этом лог заканчивается и сервак подвисает


Использую sys-block/iscsitarget-0.4.17

Конфиг ядра:
Code:
diskraid2 linux # grep -i iscsi .config
CONFIG_SCSI_ISCSI_ATTRS=m
CONFIG_ISCSI_TCP=m
CONFIG_SCSI_CXGB3_ISCSI=m
CONFIG_SCSI_QLA_ISCSI=m
CONFIG_ISCSI_IBFT_FIND=y
CONFIG_ISCSI_IBFT=y


В какую сторону копать...???
Либо сборка Gentoo под x86_64 косячит, либо в ядре глюки

По-крайней мере вот на такой же машине
Linux diskraid1 2.6.24-gentoo-r7 #1 SMP Wed May 7 10:00:12 IRKST 2008 i686 Intel(R) Xeon(R) CPU E5335 @ 2.00GHz GenuineIntel GNU/Linux
под i686 миром всё1 работало нормально, но там iscsi отдавал не устройство а файл подмонтированный в /dev/loop0
Code:
[i]Target iqn.2008-07.ru.dsi.diskraid1:iSCSI.Win.disk1
        Lun 1 Path=/dev/loop0,Type=fileio
        MaxConnections[/i]
Back to top
View user's profile Send private message
Laitr Keiows
Bodhisattva
Bodhisattva


Joined: 04 Jul 2005
Posts: 891
Location: Kobe, Japan

PostPosted: Wed Jul 08, 2009 2:54 am    Post subject: Re: iSCSI и ядро x86_64-2.6.29-gentoo-r4 Reply with quote

ArhAngel wrote:
Code:

Jul  7 11:11:48 diskraid2 BUG: soft lockup - CPU#2 stuck for 61s! [nfsd:13573]
Jul  7 11:11:48 diskraid2 BUG: soft lockup - CPU#2 stuck for 61s! [nfsd:13573]


В какую сторону копать...???

1. Все логи сюда выкладывать не надо, используй http://pastebin.com/ или аналоги.
2. Судя по всему, это происходит из процесса nfsd c pid 13573, то есть, скорее всего iSCSI тут не при чём.
3. http://www.google.com/search?hl=en&q=soft+lockup+-+CPU+stuck+for+61s

Я бы порекомендовал отключить nfsd и/или обновить ядро до версии из git, быть может этот баг там уже поправили.

Если баг останется и в GIT-ядре, то тогда стоит получить человекочитаемый Call Trace, собрав ядро с отладкой, и отправить в лист рассылки или cюда: http://bugzilla.kernel.org/enter_bug.cgi
Back to top
View user's profile Send private message
ArhAngel
n00b
n00b


Joined: 21 Mar 2009
Posts: 6

PostPosted: Wed Jul 08, 2009 7:37 am    Post subject: Re: iSCSI и ядро x86_64-2.6.29-gentoo-r4 Reply with quote

Laitr Keiows wrote:

2. Судя по всему, это происходит из процесса nfsd c pid 13573, то есть, скорее всего iSCSI тут не при чём.

может быть, но NFS очень необходим ... и ещё ... до того, как запустил iSCSI сервер работал стабильно.
Back to top
View user's profile Send private message
ArhAngel
n00b
n00b


Joined: 21 Mar 2009
Posts: 6

PostPosted: Sun Jul 12, 2009 11:13 am    Post subject: Reply with quote

Обновился до версии 2.6.30-gentoo-r2. пока uptimeуже 4 дня
Back to top
View user's profile Send private message
Display posts from previous:   
Reply to topic    Gentoo Forums Forum Index Russian All times are GMT
Page 1 of 1

 
Jump to:  
You cannot post new topics in this forum
You cannot reply to topics in this forum
You cannot edit your posts in this forum
You cannot delete your posts in this forum
You cannot vote in polls in this forum