以下では,わかりやすい局在磁性の話をします.
局在磁性というのは,固体中の動かない(移動しない)原子や分子の持つ(スピン)磁力が磁性の主原因となっているものになります.
磁石(強磁性,もしくはフェリ磁性)かどうか,というのは,スピンの集団的な性質となります.
一般的に,磁石(強磁性もしくはフェリ磁性)となるためには,
(1)個々の原子や分子がスピンをもっている
(2)隣り合うスピン間に,スピンの向きを同じ向きにしようとする強磁性相互作用(もしくは逆向きにしようとする反強磁性相互作用)が働く.
(3)相互作用が熱によるランダム化に十分勝つほど温度が低く,スピンが物質全体で整列する.
(4)整列の結果一方向に大きな磁化が生じる.
という条件を満たす必要があります.
大抵の有機物は(1)を満たさず,ほぼ非磁性です.(磁性をもつものもあります)
また,(2)の相互作用が反強磁性的な場合,個々の原子や分子が磁力を持っていてもトータルでは打ち消すような配置になることがあります(↑↓↑↓↑↓↑↓↑↓↑↓など).この場合は反強磁性と呼ばれ,トータルでの磁力が無いので磁石にはなりません.これは(4)を満たさない場合ですね.
ただ反強磁性相互作用からでもスピンの配置によっては磁石を作ることは可能で,フェリ磁性と呼ばれます(詳細省略).
また,温度が高いと熱(=すべてをランダムにしようとする作用)に相互作用が負け,スピンの向きがバラバラになります.(3)を満たせない場合ですね.これもまた磁石にはなれません.氷に熱を加えると位置がランダムになって水になる,というのと同類で,相転移と呼ばれます.
相転移にはある程度の粒子数が必要で,また次元性も関係してきます.
このため例えば一列に並べたスピンの場合,どんなに相互作用が強くても絶対零度までスピン配列が固まることができません.つまり磁石になれません.
ということで,磁石を小さくしていくとどうなるか,ということですが,「強磁性とかフェリ磁性とか」という意味での「磁石」(ある方向に磁化を維持する状態)になるためにはある程度以上のサイズが必要であるため,原子や分子1個になると磁石にはなれません.
※ただし,電子1個でもスピンはあり「磁力」は持っています.
なお,『有限時間でスピンが反転するから厳密な意味での「磁石」ではないけど,緩和時間が非常に長いから「一見したところは磁石のように見える」』という「単分子磁石」というものはあります(とは言え,室温のような高温では測定不能なぐらいの速度で反転するので,磁石っぽく振る舞うのは低温に限られますが……).
こちらは
・ある程度の時間は磁化の方向が定まっている
・一定の磁力がある
という意味では磁石っぽいものの,統計力学的な意味での磁石ではない,というものになります.
厳密に説明しようとすると(説明できなくはないが)結構面倒です.
また,金属としての鉄の磁性は伝導電子による遍歴磁性になるため,固体物理のバンド理論の理解が不可欠となりますので,もうちょっと面倒です.(同じく説明は可能)
同じ組成・結晶構造の鉄が磁石だったりそうじゃないっぽかったりする(針を磁石でなぞると磁石になるが,なぞる前は磁石っぽくない)ことに関しては,「磁区」というものを調べるとわかりやすいかと思います.
違う結晶構造や違う組成の場合には,遍歴磁性であればバンド構造やキャリアがどこまで充填されているかの違いなどにより,磁性が変わることがあります.局在磁性でも,結晶構造が違えば相互作用が違ってくるので,磁石になるかどうかが変わることはよくあります.