{"id":170,"date":"2013-09-09T22:01:26","date_gmt":"2013-09-09T22:01:26","guid":{"rendered":"http:\/\/faq.graven-ict.nl\/wordpress\/?p=170"},"modified":"2018-01-18T23:24:53","modified_gmt":"2018-01-18T23:24:53","slug":"vervangen-kapotte-disk-in-raid","status":"publish","type":"post","link":"https:\/\/wiki.graven-ict.nl\/wordpress\/vervangen-kapotte-disk-in-raid\/","title":{"rendered":"Vervangen kapotte disk in RAID"},"content":{"rendered":"<h2><span id=\"Vervangen_van_een_kapotte_Hard_Disk_in_een_Software_RAID_array\" class=\"mw-headline\">Vervangen van een kapotte Hard Disk in een Software RAID array<\/span><\/h2>\n<p>Dit document beschrijft het vervangen van een Harddisk in een software RAID array. Dit document kan gebruikt worden bij een raid 1 array maar ook voor een raid 5. In dit voorbeeld had ik een kapotte harddisk in een server met 4 disken van 1,5TB, met daarop een raid 1 configuratie (\/boot) en raid 5 voor (overige filesystem (lvm)). het systeem starten op met de melding dat het het een degraded raid array had gedetecteerd, door op op y te drukken kon het systeem gewoon gestart worden. Na controle van de status van de array waren wel alle disken in gebruik en waren er geen failed disken. In de syslog waren wel veel disk errors terug te vinden. De disk was dus aan vervanging toe.<\/p>\n<h3><span id=\"Inrichting\" class=\"mw-headline\">Inrichting<\/span><\/h3>\n<p>Dit systeem is als volgt ingericht. we hebben 4 disken van 1,5TB. alle disken hebben 2 partitions.<\/p><div id=\"grave-4130083348\" class=\"grave-content grave-entity-placement\"><script async src=\"\/\/pagead2.googlesyndication.com\/pagead\/js\/adsbygoogle.js?client=ca-pub-1970734611769428\" crossorigin=\"anonymous\"><\/script><ins class=\"adsbygoogle\" style=\"display:inline-block;width:728px;height:90px;\" \ndata-ad-client=\"ca-pub-1970734611769428\" \ndata-ad-slot=\"1820224830\"><\/ins> \n<script> \n(adsbygoogle = window.adsbygoogle || []).push({}); \n<\/script>\n<\/div>\n<pre>sda1 144553 (141MB) - sda2 1464991447 (1,36TB)\r\nsdb1 144553 (141MB) - sdb2 1464991447 (1,36TB)\r\nsdc1 144553 (141MB) - sdc2 1464991447 (1,36TB)\r\nsdd1 144553 (141MB) - sdd2 1464991447 (1,36TB)\r\n<\/pre>\n<p>Omdat je niet kan booten van een software raid5 is er tussen sda1 en sdb2 een RAID1 array gemaakt md0<\/p>\n<pre>sda1 + sdb1 = md0 (RAID1) \r\n<\/pre>\n<p>De 4 grote partitie zijn samen gevoegd tot 1 grote RAID5 partitie. zonder spare disk we willen de maximale ruimte beschikbaar hebben.<\/p>\n<pre>sda2 + sdb2 + sdc2 + sdd2 = md1 (RAID5 zonder spare)\r\n<\/pre>\n<h3><span id=\"Hoe_zien_we_of_er_een_disk_kapot_is.3F\" class=\"mw-headline\">Hoe zien we of er een disk kapot is?<\/span><\/h3>\n<p>In 1 van de automatische maandelijks checks was er al een melding geweest van mogelijke problemen. De RAID status gaf echter geen problemen. In de Syslog waren wel media error gelogd van sda. Na een upgrade moest het systeem opnieuwe gestarte worden, het systeem starten op met de melding dat het het een degraded raid array had gedetecteerd, door op op <b>y<\/b> te drukken kon het systeem gewoon gestart worden. Na controle van de status van de array waren wel alle disken wel weer actief, mdadm gaf geen failed disken. In de syslog waren wel weer veel disk errors terug te vinden. hoewel de software RAID wel goed leek te functioneren is er besloten om de disk toch maar te vervangen, de gevens op dit systeem zijn te belangrijk om risico&#8217;s mee te lopen.<\/p>\n<p>Normaal gesproken kan je een degraded disk ook herkennen aan de hand van de mdstat output. gebruik bv <i>cat \/proc\/mdstat<\/i> om de status te bekijken.<\/p>\n<pre>$ cat \/proc\/mdstat\r\nPersonalities\u00a0: [linear] [multipath] [raid0] [raid1] [raid6] [raid5] [raid4] [raid10]\r\nmd0\u00a0: active raid1 sda1[2] sdb1[1]\r\n      144448 blocks [2\/1] [UU]\r\n\r\nmd1\u00a0: active raid5 sda2[4](F) sdc2[1] sdb2[2] sdd2[3]\r\n      4394974080 blocks level 5, 64k chunk, algorithm 2 [4\/3] [_UUU]\r\n<\/pre>\n<p>in plaats van [UU] zie je nu een [_U] dat houd in dat je een degraded array hebtif you have a degraded RAID1 array. '&#8221;`UNIQ&#8211;google-00000002-QINU`&#8221;&#8216;<\/p>\n<h3><span id=\"Verwijderen_van_een_Failed_Disk\" class=\"mw-headline\">Verwijderen van een Failed Disk<\/span><\/h3>\n<p>We gaan dus \/dev\/sda vervangen, voordat we dat kunnen doen moeten we eerst alle partitions van \/dev\/sda uit beide raid configuratie&#8217;s halen. voordat we kunnen verwijderen moeten we hem eerst \/dev\/sda1 en \/dev\/sda2 markeren als failed.<\/p>\n<pre># mdadm --manage \/dev\/md0 --fail \/dev\/sda1\r\nmdadm: set \/dev\/sda0 faulty in \/dev\/md0\r\n#\r\n# mdadm --manage \/dev\/md1 --fail \/dev\/sda2\r\nmdadm: set \/dev\/sda2 faulty in \/dev\/md1\r\n<\/pre>\n<p>Je kan de status weer controleren met <i>cat \/proc\/mdstat<\/i> maar je kan ook <i>mdadm<\/i> gebruiken. Bij cat \/proc\/mdstat zul je nu in beide array&#8217;s 1 U missen en bij de verwijderde partitie zal er een (F) achter staan.<\/p>\n<pre>$ sudo mdadm --detail \/dev\/md1\r\n\/dev\/md1:\r\n        Version\u00a0: 00.90\r\n  Creation Time\u00a0: Thu Feb 18 15:24:13 2010\r\n     Raid Level\u00a0: raid5\r\n     Array Size\u00a0: 4394974080 (4191.37 GiB 4500.45 GB)\r\n  Used Dev Size\u00a0: 1464991360 (1397.12 GiB 1500.15 GB)\r\n   Raid Devices\u00a0: 4\r\n  Total Devices\u00a0: 4\r\nPreferred Minor\u00a0: 1\r\n    Persistence\u00a0: Superblock is persistent\r\n\r\n    Update Time\u00a0: Mon Jul 26 21:45:32 2010\r\n          State\u00a0: active, degraded\r\n Active Devices\u00a0: 3\r\nWorking Devices\u00a0: 3\r\n Failed Devices\u00a0: 1\r\n  Spare Devices\u00a0: 0\r\n\r\n         Layout\u00a0: left-symmetric\r\n     Chunk Size\u00a0: 64K\r\n\r\n           UUID\u00a0: 9b4567c4:f05a97c3:c055aef6:0916ba60\r\n         Events\u00a0: 0.1312682\r\n\r\n    Number   Major   Minor   RaidDevice State\r\n       0       0        0        0      removed\r\n       1       8       34        1      active sync   \/dev\/sdc2\r\n       2       8       18        2      active sync   \/dev\/sdb2\r\n       3       8       50        3      active sync   \/dev\/sdd2\r\n\r\n       4       8        2        -      faulty spare   \/dev\/sda2\r\n<\/pre>\n<p>De disk\/partition is nu nog steeds onderdeel van de ARRAY. Om de disk uit de array te halen gebruik je het volgende commando. dit doe je uiteraard voor elke RAID array.<\/p>\n<pre># mdadm --manage \/dev\/md1 --remove \/dev\/sda2\r\nmdadm: hot removed \/dev\/sda2\r\n# mdadm --manage \/dev\/md0 --remove \/dev\/sda1\r\nmdadm: hot removed \/dev\/sda1\r\n<\/pre>\n<p>De Ouput van <i>cat \/proc\/mdstat<\/i><\/p>\n<pre>cat \/proc\/mdstat\r\nPersonalities\u00a0: [linear] [multipath] [raid0] [raid1] [raid6] [raid5] [raid4] [raid10]\r\nmd0\u00a0: active raid1 sdc1[1]\r\n      144448 blocks [2\/1] [_U]\r\n\r\nmd1\u00a0: active raid5 sdc2[1] sdb2[2] sdd2[3]\r\n      4394974080 blocks level 5, 64k chunk, algorithm 2 [4\/3] [_UUU]\r\n\r\nunused devices: &lt;none&gt;\r\n<\/pre>\n<p>De Ouput van <i>mdadm<\/i><\/p>\n<pre># mdadm --detail \/dev\/md0\r\n\/dev\/md0:\r\n        Version\u00a0: 00.90\r\n  Creation Time\u00a0: Thu Feb 18 15:23:58 2010\r\n     Raid Level\u00a0: raid1\r\n     Array Size\u00a0: 144448 (141.09 MiB 147.91 MB)\r\n  Used Dev Size\u00a0: 144448 (141.09 MiB 147.91 MB)\r\n   Raid Devices\u00a0: 2\r\n  Total Devices\u00a0: 1\r\nPreferred Minor\u00a0: 0\r\n    Persistence\u00a0: Superblock is persistent\r\n\r\n    Update Time\u00a0: Mon Jul 26 21:46:44 2010\r\n          State\u00a0: clean, degraded\r\n Active Devices\u00a0: 1\r\nWorking Devices\u00a0: 1\r\n Failed Devices\u00a0: 0\r\n  Spare Devices\u00a0: 0\r\n\r\n           UUID\u00a0: db890b8f:fd40224d:4dbcc10e:bdacaa8b\r\n         Events\u00a0: 0.225\r\n\r\n    Number   Major   Minor   RaidDevice State\r\n       0       0        0        0      removed\r\n       1       8       33        1      active sync   \/dev\/sdb1\r\n#\r\n# mdadm --detail \/dev\/md1\r\n\/dev\/md1:\r\n        Version\u00a0: 00.90\r\n  Creation Time\u00a0: Thu Feb 18 15:24:13 2010\r\n     Raid Level\u00a0: raid5\r\n     Array Size\u00a0: 4394974080 (4191.37 GiB 4500.45 GB)\r\n  Used Dev Size\u00a0: 1464991360 (1397.12 GiB 1500.15 GB)\r\n   Raid Devices\u00a0: 4\r\n  Total Devices\u00a0: 3\r\nPreferred Minor\u00a0: 1\r\n    Persistence\u00a0: Superblock is persistent\r\n\r\n    Update Time\u00a0: Mon Jul 26 21:47:03 2010\r\n          State\u00a0: active, degraded\r\n Active Devices\u00a0: 3\r\nWorking Devices\u00a0: 3\r\n Failed Devices\u00a0: 0\r\n  Spare Devices\u00a0: 0\r\n\r\n         Layout\u00a0: left-symmetric\r\n     Chunk Size\u00a0: 64K\r\n\r\n           UUID\u00a0: 9b4567c4:f05a97c3:c055aef6:0916ba60\r\n         Events\u00a0: 0.1312727\r\n\r\n    Number   Major   Minor   RaidDevice State\r\n       0       0        0        0      removed\r\n       1       8       34        1      active sync   \/dev\/sdc2\r\n       2       8       18        2      active sync   \/dev\/sdb2\r\n       3       8       50        3      active sync   \/dev\/sdd2\r\n<\/pre>\n<p>Dit ziet er verder goed uit we gaan nu het systeem uitzetten om de disk te vervangen. Voor dat ik het systeem uitzet controlleer ik eerst het serienummer van de disk zodat we zeker weten dat we de juiste vervangen. volg <a title=\"SCSI Hard Disk Model, Serie Nummer enz\" href=\"http:\/\/wiki.graven-ict.nl\/index.php?title=SCSI_Hard_Disk_Model,_Serie_Nummer_enz\">SCSI Hard Disk Model, Serie Nummer enz<\/a> document om achter het serienummer te komen je kan hier eventueel ook type nummer uithalen. '&#8221;`UNIQ&#8211;google-00000006-QINU`&#8221;&#8216;<\/p>\n<h2><span id=\"Systeem_uitzetten_en_de_disk_vervangen\" class=\"mw-headline\">Systeem uitzetten en de disk vervangen<\/span><\/h2>\n<pre>shutdown -h now\r\n<\/pre>\n<p>Vervang de kapotte disk en plaats de nieuwe disk in het systeem let er op dat deze disk minmaal even groot is als de oude anders gaat het niet werken.<\/p>\n<p>Als de disk vervangen is gaan we het systeem proberen te booten. als het goed staat de bootloader op 2 disken. waarschijnlijk staat je bios in gesteld dat hij alleen van de eerste disk wilt opstarten. kies daarom vanuit je bios het opstart menu en kies om van de 2 disk te booten. Als dit allemaal niet lukt kan je ook nog van een live CD\/DVD opstarten. en vanuit de live CD\/DVD de RAID configuratie herstellen.<\/p>\n<p>We gaan vanuit dat het systeem gewoon weer gestart word dus gaan we de RAID array herstellen.<\/p>\n<h3><span id=\"Disk_toevoegen\" class=\"mw-headline\">Disk toevoegen<\/span><\/h3>\n<p>We controleren of we alle disken weer zien. <i>fdisk -l<\/i> als het goed is zie je de nieuwe disk op de zelfde plaats als de oude, in mijn geval als \/dev\/sda. als eerste moeten we de partitie table aanmaken op de nieuwe disk. je kan het met de hand doen. met de kans op fouten, maar je kan de partition table ook copieren van een andere disk met sfdisk, een uitgebreide uitleg over het copieren\/clonen van de partition table staat in het <a title=\"Clone partition table\" href=\"http:\/\/wiki.graven-ict.nl\/index.php?title=Clone_partition_table\">Clone partition table<\/a> artikel.<\/p>\n<pre># sfdisk -d \/dev\/sda | sfdisk \/dev\/sdb\r\n<\/pre>\n<p>uiteraard weer een extra controle met <i>fdisk -l<\/i> of de juiste partition indeling is gemaakt.<\/p>\n<p>De volgende stap is het toevoegen van de partitions aan de juiste RAID array&#8217;s.<\/p>\n<pre># mdadm --manage \/dev\/md0 --add \/dev\/sda1\r\nmdadm: re-added \/dev\/sda1\r\n# \r\n# mdadm --manage \/dev\/md1 --add \/dev\/sda2\r\nmdadm: re-added \/dev\/sda2\r\n<\/pre>\n<p>Beide array&#8217;s worden nu gesynchroniseerd. je kan dit process volgen dmv <i>cat \/proc\/mdstat<\/i><\/p><div id=\"grave-2299245715\" class=\"grave-content_2 grave-entity-placement\"><script async src=\"\/\/pagead2.googlesyndication.com\/pagead\/js\/adsbygoogle.js?client=ca-pub-1970734611769428\" crossorigin=\"anonymous\"><\/script><ins class=\"adsbygoogle\" style=\"display:inline-block;width:728px;height:90px;\" \ndata-ad-client=\"ca-pub-1970734611769428\" \ndata-ad-slot=\"1820224830\"><\/ins> \n<script> \n(adsbygoogle = window.adsbygoogle || []).push({}); \n<\/script>\n<\/div>\n<pre># cat \/proc\/mdstat\r\nPersonalities\u00a0: [linear] [multipath] [raid0] [raid1] [raid6] [raid5] [raid4] [raid10]\r\nmd1\u00a0: active raid5 sdd2[3] sdb2[1] sda2[0] sdc2[2]\r\n      5860104000 blocks level 5, 64k chunk, algorithm 2 [4\/4] [UUUU]\r\n      [===&gt;.................]  resync = 15.2% (298208388\/1953368000) finish=362.8min speed=76019K\/sec\r\n\r\nmd0\u00a0: active raid1 sda1[1] sdb1[0]\r\n      146368 blocks [2\/2] [UU]\r\n\r\nunused devices: &lt;none&gt;\r\n<\/pre>\n<p>Houd er rekening mee dat het rebuilden van dit soort grote array&#8217;s nog al wat tijd kan kosten, in dit geval was het systeem ongeveer 18 uur bezig met rebuilden..<\/p>\n<p>Omdat we hier te maken hebben met de eerste disk vergeet niet om grub-install te draaien. om de disk bootable te maken.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Vervangen van een kapotte Hard Disk in een Software RAID array Dit document beschrijft het vervangen van een Harddisk in een software RAID array. Dit document kan gebruikt worden bij een raid 1 array maar ook voor een raid 5. In dit voorbeeld had ik een kapotte harddisk in een server met 4 disken van ..<\/p>\n<div class=\"clear-fix\"><\/div>\n<p><a href=\"https:\/\/wiki.graven-ict.nl\/wordpress\/vervangen-kapotte-disk-in-raid\/\" title=\"Meer lezen...\">Lees meer<\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[3],"tags":[],"class_list":["post-170","post","type-post","status-publish","format-standard","hentry","category-lvm-filesystemen-raid-disk"],"jetpack_featured_media_url":"","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/wiki.graven-ict.nl\/wordpress\/wp-json\/wp\/v2\/posts\/170","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/wiki.graven-ict.nl\/wordpress\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/wiki.graven-ict.nl\/wordpress\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/wiki.graven-ict.nl\/wordpress\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/wiki.graven-ict.nl\/wordpress\/wp-json\/wp\/v2\/comments?post=170"}],"version-history":[{"count":1,"href":"https:\/\/wiki.graven-ict.nl\/wordpress\/wp-json\/wp\/v2\/posts\/170\/revisions"}],"predecessor-version":[{"id":171,"href":"https:\/\/wiki.graven-ict.nl\/wordpress\/wp-json\/wp\/v2\/posts\/170\/revisions\/171"}],"wp:attachment":[{"href":"https:\/\/wiki.graven-ict.nl\/wordpress\/wp-json\/wp\/v2\/media?parent=170"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/wiki.graven-ict.nl\/wordpress\/wp-json\/wp\/v2\/categories?post=170"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/wiki.graven-ict.nl\/wordpress\/wp-json\/wp\/v2\/tags?post=170"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}